En una encuesta ante el Congreso estadounidense, el jefe de Open AI, expertos, demócratas y republicanos coinciden en muchas cosas. Piden regulación de chat GPT and Co.
Sam Altman, director ejecutivo de Open AI, pareció genuinamente preocupado en la audiencia del Congreso.
Los encuestados no escatimaron en grandes declaraciones: «Necesitamos estándares de transparencia», «Las cosas pueden salir completamente mal» y «La democracia está en peligro».
es el primero audiencia de testigos en el Congreso de los Estados Unidos sobre cómo se debe regular la inteligencia artificial (IA). El subcomité de privacidad, tecnología y derecho del Senado invitó a tres expertos: Sam Altman, cofundador y director ejecutivo de Open AI, el investigador Gary Marcus y Christina Montgomery, presidenta del comité de ética de la firma tecnológica IBM. En una audiencia de tres horas, presentaron sus posiciones sobre la regulación de la IA.
Las declaraciones de apertura de los políticos en el comité marcaron el tenor de la encuesta: uno no quiere repetir los errores cometidos en las redes sociales. Específicamente, los políticos mencionaron el artículo 230, que eximía en gran medida a Facebook y YouTube de responsabilidad por lo que se publica en sus plataformas. Se le culpa de los problemas de las redes sociales: fakes, manipulación, bullying y discursos de odio. Los senadores dejaron en claro que esta vez no quieren perderse el momento histórico en que surge una nueva tecnología y aún puede ser contenida por la regulación.
Críticas a la IA opaca y descontrolada
Y no solo demócratas y republicanos estuvieron de acuerdo. Incluso Sam Altman aboga por que las empresas sean responsables de sus sistemas de IA. Pidió formalmente ser regulado y dijo con expresión seria: «Si esto sale mal, puede salir muy mal».
Hizo hincapié en que Open AI no es una empresa de tecnología clásica, sino que se fundó específicamente para desarrollar inteligencia artificial en beneficio de la humanidad. Desde el punto de vista de los críticos la puesta en marcha se desvía de los ideales anunciados cuando se fundó ahora fuera sin embargo. Muchas personas están molestas por el hecho de que la compañía hizo público el acceso a sus últimos productos, Chat-GPT y GPT-4, pero no proporcionó información sobre la estructura y la base de datos del modelo.
Esto es exactamente lo que necesitaban los investigadores externos para predecir problemas en los modelos. Gary Marcus insistió en esto en la audiencia. El profesor emérito y empresario de IA es conocido por su actitud crítica hacia la inteligencia artificial. En particular, advierte que la IA del habla puede generar falsificaciones y desinformación con solo presionar un botón.
Marcus cita informes de que un chatbot engañó a un hombre para que se suicidara; otro le dio consejos a una persona que se hizo pasar por un niño de 13 años sobre cómo planificar una cita secreta con un niño de 31 años. «Necesitamos sistemas seguros, justos y privados», dice Marcus. Las IA de lenguaje de hoy están muy alejadas de eso.
Estados Unidos podría establecer estándares globales
Otros problemas discutidos de la IA del habla: la tendencia a inventar hechos y aquellos en estos modelos de lenguaje valores implícitos, lo que podría tener un efecto sutil pero poderoso en las opiniones políticas.
Según los expertos encuestados, todo esto requiere reglas. Las opiniones diferían algo sobre la implementación precisa. La representante de IBM, Christina Montgomery, abogó por un enfoque basado en el riesgo, análogo a las propuestas que se están debatiendo actualmente en la UE. El principio aquí es que no es una tecnología en sí misma la que debe ser regulada, sino en el contexto de su área de aplicación: cuando se trata de la policía y la seguridad social, por ejemplo, deben aplicarse reglas estrictas sobre transparencia y responsabilidad, muchas aplicaciones cotidianas están exentas.
Samuel Altman y Gary Marcus abogaron por la creación de una nueva agencia que probaría los sistemas de IA antes y después de su lanzamiento y tendría el poder de retirarlos del mercado, o incluso otorgar licencias al fabricante para desarrollar sistemas de IA potentes. Altman enfatizó el peso internacional de Estados Unidos para hacer cumplir los estándares en todo el mundo: las empresas más importantes, los fabricantes de chips, tienen su sede allí; Estados Unidos debería usar este poder.
Se debatieron toda una serie de cuestiones: si tendría sentido una autoridad como la que regula la energía nuclear o si deberían establecerse normas de responsabilidad más estrictas, si EE. UU. debería adelantar a la UE en regulación o si sería mejor participar en un sistema regulatorio mundial.
Sam Altman parece realmente preocupado
Mientras Montgomery sonaba como un burócrata bien informado, Marcus y especialmente Altman sonaban idealistas. El empresario de IA parece convencido de que la IA no está lejos de vencer al cambio climático y al cáncer. No le preocupa el desempleo, pero le preocupa el poder de los sistemas que se están desarrollando.
No dijo exactamente lo que quiso decir, pero sonaba futurista. discurso sobre la toma del poder por parte de las máquinas por el que Altman es conocido. Parecía genuinamente preocupado. Como señaló Gary Marcus, cuando estás parado junto a Sam Altman como lo está ahora, puedes sentir su sinceridad, más de lo que puede transmitir cualquier transmisión de televisión.
El estado de ánimo era casi de celebración al comienzo de la regulación estadounidense de la inteligencia artificial. Los últimos meses llenos de innovaciones en el campo de la IA también han impresionado a los políticos y los han convencido de que se debe hacer algo ahora. La tecnología es joven y las opiniones al respecto no están dictadas por los frentes de los partidos, todavía no.