El CEO de OpenAI, Sam Altman, la directora de privacidad y confianza de IBM, Christina Montgomery, y el profesor emérito de la Universidad de Nueva York, el Dr. Gary Marcus, fueron interrogados hoy por un subcomité del Senado de los EE. UU. sobre los riesgos potenciales de la inteligencia artificial y cómo debería regularse. Los legisladores expresaron su preocupación por el potencial de desinformación e inexactitudes generadas por la IA (los chatbots tienden a mentir), el sesgo político y la infracción de derechos de autor.
altman dijo a los senadores (se abre en una pestaña nueva) que esta tecnología en desarrollo requiere «intervención regulatoria por parte de los gobiernos», que es «crítica para mitigar los riesgos de modelos cada vez más poderosos». Con ese fin, el CEO de OpenAI dijo que una agencia o agencias deberían estar facultadas para crear y hacer cumplir las reglas para la industria de la IA, emitiendo licencias para empresas de IA y revocando esas licencias en caso de que sus tecnologías se vuelvan locas.
El Dr. Marcus también estuvo de acuerdo en que la creación de una nueva agencia gubernamental sería la mejor manera de regular la IA y dijo que «probablemente necesitemos una organización a nivel de gabinete». Comparó los modelos de IA con «toros en una tienda de porcelana» en su declaración de apertura.
Una gran preocupación que surgió mucho durante la audiencia fue sobre la generación de arte con IA y los derechos de autor. Altman les dijo a los senadores que OpenAI está trabajando en un sistema de derechos de autor que pagaría a los artistas si sus obras se usaran para generar arte nuevo, diciendo que «los artistas merecen control». Altman también agregó que las nuevas regulaciones deberían exigir que las imágenes generadas por IA revelen que se crearon con herramientas de IA.
¿Por qué Altman, el CEO de uno de los jugadores más importantes en IA, está tan interesado en la regulación? Sin descartar la posibilidad de que tenga preocupaciones genuinas, en el pasado, empresas poderosas con muchos recursos han pedido regulación cuando creen que es inevitable y quieren influir, o para dificultar la entrada de nuevas empresas más pequeñas en la industria. .
Aunque está a favor de la regulación, el profesor Marcus llama a esto «captura regulatoria», donde, si se hace mal, la nueva regulación podría crear inadvertidamente un monopolio de IA.
El senador Blumenthal, presidente del subcomité, dijo que el gobierno podría «crear diez nuevas agencias, pero si no les da los recursos», las grandes empresas de IA «darán vueltas» alrededor de ellas.