En una carta abierta, investigadores e intelectuales argumentan que lleva tiempo que la sociedad sea capaz de reaccionar con sensatez ante la inteligencia artificial.
No es exactamente conocido por pedir la interferencia del gobierno: el empresario y firmante de cartas Elon Musk.
En las últimas semanas y meses, las noticias sobre programas que pueden hacer cada vez más con la ayuda de la inteligencia artificial (IA) se han ido acumulando. Ya es posible crear fotos realistas de cosas con solo presionar un botón, eso nunca ocurrió – y artículos periodísticos coincidentes e informes de campo.
Apenas los más curiosos han probado el chatbot Chat-GPT, el fabricante Open AI ya lanza el modelo sucesor GPT-4que también puede tratar con imágenes y responde preguntas de prueba en todas las áreas posibles tan bien como personas técnicamente experimentadas.
competidores como Google o el chino Baidu están bajo presión para mostrar lo que están haciendo sus programas. Los desarrolladores de nuevas empresas y corporaciones de todo el mundo están en una carrera para crear el software más impresionante.
El empresario tecnológico Elon Musk, el historiador Yuval Noah Harari, el investigador básico de IA Yoshua Bengio, junto con muchos otros intelectuales, empresarios y expertos en la materia de renombre, ahora han escribió una carta abiertaen el que piden una pausa en esta misma carrera.
No deje las grandes decisiones a los gerentes de tecnología
“Hacemos un llamado a todos los laboratorios de IA para que dejen de entrenar sistemas de IA más potentes que GPT-4 de inmediato y durante al menos seis meses”, se lee en el subtítulo de la carta. Si los actores no cumplen con la pausa ellos mismos, entonces los gobiernos deberían intervenir y hacerla cumplir, dice a continuación.
Ahora, Elon Musk no es exactamente conocido por pedir la interferencia del gobierno en la innovación tecnológica. Entonces, ¿por qué esta llamada ahora?
Los signatarios argumentan que los sistemas de IA conllevan grandes riesgos que requieren planificación y gestión. Pero eso es exactamente lo que ha estado faltando en los últimos meses, mientras los laboratorios de IA han desarrollado sistemas que incluso sus desarrolladores «no pueden entender, predecir y controlar de manera confiable».
«Deberíamos preguntarnos: Debería ¿Dejar que las máquinas inunden nuestros canales de información con propaganda y falsedades? Debería ¿Automatizamos todos los trabajos, incluidos los de cumplimiento? Debería desarrollamos mentes no humanas que terminan superándonos en número y más inteligentes que nosotros, haciéndonos obsoletos y reemplazándonos? Debería corremos el riesgo de perder el control de nuestra civilización? Estas decisiones no deben dejarse en manos de líderes tecnológicos no elegidos”, escriben los autores.
Proponen una pausa de seis meses para experimentos de IA a gran escala, durante los cuales los «laboratorios de IA y expertos independientes» deberían desarrollar protocolos de seguridad. Los firmantes enfatizan que esta pausa no debe detener toda innovación en el campo de la IA, al contrario. Pero en lugar de desarrollar modelos con cada vez más potencia informática, como Open AI con GPT-4, la investigación debería centrarse en hacer que los sistemas actuales sean más seguros, más precisos, más transparentes y más robustos.
Al mismo tiempo, los desarrolladores de IA deberían trabajar con las agencias gubernamentales para desarrollar un régimen regulatorio de IA. La carta enumera los puntos específicos que debe contener dicho sistema. Estos incluyen autoridades de IA dedicadas, marcas de agua que distinguen el texto y las imágenes generados por IA de los hechos por humanos, un sistema de certificación para IA, financiación pública para la investigación de seguridad de IA e «instituciones con buenos recursos que ayudan a lidiar con las dramáticas perturbaciones económicas y políticas». que la IA provocará».
Armada de esta manera, la humanidad puede esperar un futuro próspero con IA, en el que la sociedad tendrá tiempo suficiente para adaptarse. Como modelo, los autores citan tecnologías que se han detenido debido a consecuencias potencialmente catastróficas para la sociedad: clonación, modificación de genes humanos, investigación peligrosa sobre virus y eugenesia.
Acuerdo comparativamente grande entre los expertos
Los investigadores y desarrolladores están discutiendo la publicación en línea con opiniones divididas. Muchos apoyan la idea básica de que la inteligencia artificial necesita reglas. Es controvertido si una interrupción en el desarrollo es la forma correcta de hacerlo. Eso podría dar a aquellos que no cumplen una ventaja injusta, dice un argumento común.
Otras voces critican partes de la redacción de la carta: aumentarían la exageración sobre la IA. El lingüista computacional emily dobladora por ejemplo, cuya investigación sobre los problemas de los grandes modelos de lenguaje se cita en la parte superior de la carta abierta, criticó Gorjeo entre otras cosas, el encuadre de que los laboratorios de IA están en proceso de desarrollar una «mente digital». O la afirmación de que los sistemas de IA son tan buenos como los humanos en tareas generales.
Ella llama a los políticos a no escuchar las «fantasías de los tech bros» sino a «aquellos que estudian cómo las corporaciones (y los estados) usan la tecnología (y las narrativas sobre la IA) para ganar y concentrar el poder». A pesar de todas las críticas, Bender está de acuerdo con muchas de las propuestas concretas de acción.
En general, la comunidad tecnológica parece estar de acuerdo en que la velocidad de los desarrollos actuales es asombrosa. Lo que es exactamente amenazante, ya sea el desempleo masivo, la discriminación, la concentración de poder, la desinformación o una IA independiente que vuelve obsoletas a las personas, los expertos evalúan de manera muy diferente.
La cuestión de cuál es la forma correcta de regulación requerirá cierta discusión. Por último, pero no menos importante, es probable que muchas personas fuera de la burbuja tecnológica compartan el deseo de una pequeña desaceleración para poder mantenerse al día con las innovaciones en el área de IA.