imágenes falsas
El miércoles, el senador estadounidense Chuck Schumer (DN.Y.) organizó un «Foro de visión de la IA» en el edificio de oficinas del Senado sobre una posible regulación de la IA. Entre los asistentes se encontraban multimillonarios y titanes de la industria moderna como Elon Musk, Bill Gates, Mark Zuckerberg, Sam Altman de OpenAI y Jensen Huang de Nvidia. Pero esta lista de invitados fuertemente corporativa (con 14 de 22 directores ejecutivos) hizo que algunos se rascaran la cabeza.
«Esta es la sala que reúnes cuando tu personal quiere fotos con celebridades de la IA de la industria tecnológica. No es la sala que reunirías cuando quieres entender mejor qué es la IA, cómo (y para quién) funciona y qué hacer. al respecto», escribió la presidenta de Signal, Meredith Whittaker, en X.
La lista repleta de directores ejecutivos hizo que otros cuestionaran la perspicacia técnica de los asistentes en materia de IA. «Espero que Schumer y otros giren para escuchar los contrapuntos de muchos técnicos que son buenos explicando la tecnología», dijo la Dra. Margaret Mitchell de la plataforma de inteligencia artificial Hugging Face, cuyo director ejecutivo asistió a la reunión. «Estos directores ejecutivos en gran medida no lo son. Y están muy incentivados a ocultar detalles críticos, en la medida en que ellos mismos los comprendan».
Mitchell también expresó su preocupación por la falta de mujeres técnicamente capacitadas en la reunión. En total, siete de los 22 invitados eran mujeres, pero no todas desempeñan funciones técnicas en IA, incluidos representantes de la AFL-CIO y el Writers Guild. «Las mujeres son técnicas, pero los invitados de Schumer no lo sabrían, y este es un problema enorme si queremos crear una regulación de la IA que ayude a que la IA funcione para todos», dijo Mitchell.
imágenes falsas
Algunos senadores también criticaron la naturaleza de la reunión. «Creo que es ridículo que todos estos monopolistas estén aquí para decirles a los senadores cómo configurar el marco regulatorio para que puedan ganar la máxima cantidad de dinero», dijo el senador Josh Hawley (republicano por Missouri).
A pesar de la controversia, la reunión atrajo el interés bipartidista y participaron más de 60 senadores. El líder de la mayoría demócrata del Senado, Schumer, y el senador Todd Young (R-Ind.) expresaron optimismo sobre la disposición del Senado a considerar propuestas legislativas. Sin embargo, el senador Mike Rounds (RS.D.) señaló que el proceso de redacción de una legislación adecuada llevaría tiempo. «¿Estamos listos para salir y redactar legislación? Por supuesto que no», dijo Rounds, citado por Reuters. «No estaban ahí.»
Si bien la reunión estuvo cerrada a los medios y al público, Reuters y The New York Times informaron sobre parte de la discusión, realizada en privado para que nadie «jugara con la prensa», dijo Schumer.
Según Reuters, Musk defendió la necesidad de un «árbitro» en el espacio de la IA. Describió la regulación de la IA como algo similar a un juego deportivo, donde las reglas garantizan el juego limpio y protegen a los participantes. «Es importante para nosotros tener un árbitro que garantice que las empresas tomen medidas que sean seguras y en interés del público en general», dijo Musk.
El multimillonario, que gestiona varias empresas tecnológicas, incluida la plataforma de redes sociales X, enmarcó la reunión como un «servicio a la humanidad», sugiriendo que sus ramificaciones «pueden pasar a la historia como muy importantes para el futuro de la civilización». Los comentarios de Musk se hacen eco de sus llamados anteriores a una pausa de seis meses en el desarrollo de sistemas de inteligencia artificial más poderosos que el GPT-4 de OpenAI, que según algunos críticos pasó por alto el daño actual de la inteligencia artificial en favor de peligros hipotéticos no probados.
Por otro lado, Zuckerberg de Meta supuestamente impulsó un enfoque de colaboración entre el gobierno y las empresas de tecnología. Instó al Congreso a «comprometerse con la IA para apoyar la innovación y las salvaguardias», destacando la ventaja estratégica de que las empresas estadounidenses establezcan estándares globales.
Debido al rápido aumento de la IA generativa en el ojo público durante el último año, especialmente relacionado con el éxito del asistente de IA ChatGPT y las advertencias sobre los peligros potenciales de hipotéticas máquinas superinteligentes, las herramientas de inteligencia artificial han caído de lleno en el punto de mira de los potenciales estadounidenses. regulación gubernamental, con gran interés recientemente por parte de Schumer y otros en el Congreso. La semana pasada, los senadores estadounidenses Richard Blumenthal (D-Conn.) y Hawley propusieron un marco legislativo bipartidista que requeriría que las empresas que trabajan en aplicaciones de IA de «alto riesgo», como GPT-4, obtuvieran una licencia gubernamental.
El llamado a la regulación de la IA se ha vuelto cada vez más global, y países de todo el mundo luchan por establecer reglas sobre reconocimiento facial, deepfakes, conjuntos de datos de entrenamiento y más. Esta semana, las empresas Adobe, IBM y Nvidia anunciaron que se habían sumado a los compromisos voluntarios de IA del presidente Joe Biden, que exigen medidas como poner marcas de agua en el contenido generado por IA para señalar sus orígenes artificiales.
Con tanta expectación y tantos dólares circulando por ahí, a los expertos de la industria como Mitchell les preocupa que los detalles técnicos se pierdan en la conversación. «Lo correcto habría sido comunicarse primero con personas que tengan habilidades técnicas y que puedan hablar de los derechos de las personas», dijo Mitchell. «Habrían sentado las bases de la comprensión de Schumer. En cambio, la base de su comprensión ahora está alineada con la maximización de ganancias a corto plazo».