Este marzo, casi 35 000 investigadores, tecnólogos, empresarios y ciudadanos preocupados por la IA firmaron una carta abierta del Future of Life Institute sin fines de lucro que pedía una «pausa» en el desarrollo de la IA, debido a los riesgos para la humanidad revelados en las capacidades de programas como ChatGPT.
“Los sistemas de IA contemporáneos ahora se están volviendo competitivos con los humanos en tareas generales, y debemos preguntarnos… ¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, ser más inteligentes, obsoletas y reemplazarnos?”
Todavía se puede demostrar que estoy equivocado, pero casi seis meses después y con el desarrollo de la IA más rápido que nunca, la civilización no se ha derrumbado. Diablos, Bing Chat, el “revolucionario” oráculo de búsqueda infundido con ChatGPT de Microsoft, ni siquiera ha desplazado a Google como líder en búsqueda. Entonces, ¿qué debemos hacer con la carta y advertencias de ciencia ficción similares respaldadas por nombres dignos sobre los riesgos que plantea la IA?
Dos estudiantes emprendedoras del MIT, Isabella Struckman y Sofie Kupiec, se acercaron a los primeros cien signatarios de la carta que pedía una pausa en el desarrollo de la IA para aprender más sobre sus motivaciones y preocupaciones. La redacción del dúo sobre sus hallazgos revela una amplia gama de perspectivas entre quienes pusieron su nombre en el documento. A pesar de la recepción pública de la carta, relativamente pocos estaban realmente preocupados de que la IA representara una amenaza inminente para la humanidad misma.
Muchas de las personas con las que hablaron Struckman y Kupiec no creían que se produciría una pausa de seis meses o que tendría mucho efecto. La mayoría de los que firmaron no imaginaron el “escenario apocalíptico” que un encuestado anónimo reconoció que evocaban algunas partes de la carta.
Al parecer, un número significativo de los que firmaron estaban preocupados principalmente por el ritmo de la competencia entre Google, OpenAI, Microsoft y otros, ya que la exageración sobre el potencial de las herramientas de IA como ChatGPT alcanzó alturas vertiginosas. Google fue el desarrollador original de varios algoritmos clave para la creación del chatbot, pero se movió con relativa lentitud hasta que ChatGPT-manía se afianzó. Para estas personas, la perspectiva de que las empresas se apresuraran a lanzar algoritmos experimentales sin explorar los riesgos era motivo de preocupación, no porque pudieran acabar con la humanidad, sino porque podrían difundir desinformación, producir consejos dañinos o sesgados, o aumentar la influencia y la riqueza de la gente. compañías tecnológicas ya muy poderosas.
Algunos signatarios también se preocuparon por la posibilidad más lejana de que la IA desplace a los trabajadores a una velocidad nunca antes vista. Y algunos también sintieron que la declaración ayudaría a llamar la atención del público sobre avances significativos y sorprendentes en el rendimiento de los modelos de IA, tal vez empujando a los reguladores a tomar algún tipo de acción para abordar los riesgos a corto plazo que plantean los avances en IA.
En mayo, hablé con algunos de los que firmaron la carta y estaba claro que no todos estaban completamente de acuerdo con todo lo que decía. Firmaron con la sensación de que el impulso que se generaba detrás de la carta llamaría la atención sobre los diversos riesgos que les preocupaban y, por lo tanto, valía la pena respaldarlo.