Microsoft: Necesitamos una nueva agencia gubernamental para regular la IA

Microsoft está pidiendo a los EE. UU. y otros países que establezcan sus propias agencias gubernamentales dedicadas a regular la IA.

El presidente de Microsoft, Brad Smith, hizo la recomendación hoy en un informe de la empresa de 41 páginas.(Se abre en una nueva ventana) sobre controlar la IA en medio de preocupaciones de que la tecnología podría alterar la sociedad, ya sea a través de deepfakes o quitando trabajos a los humanos.

Smith dijo que parte de la regulación puede ocurrir a través de agencias y tribunales existentes; simplemente necesitan la experiencia en la aplicación de las leyes actuales a los programas de IA. Pero él ve una brecha regulatoria en lo que respecta a los programas de IA más inteligentes y potencialmente autónomos que se presentarán en la próxima década.

“Entonces será necesario desarrollar nuevas leyes y regulaciones para modelos básicos de IA de alta capacidad, implementados mejor por una nueva agencia gubernamental”, dijo Smith.

(Crédito: Microsoft)

Para regular los sistemas de IA más potentes, Smith ve un enfoque que no solo implica nuevas leyes, sino también la emisión de licencias que permitan a los centros de datos calificados ejecutar modelos de IA de alta capacidad. Es una idea que Sam Altman, CEO de OpenAI, socio de Microsoft, también defendió.(Se abre en una nueva ventana) durante una audiencia en el Congreso a principios de este mes.

“Como Microsoft, respaldamos ese llamado y apoyamos el establecimiento de un nuevo regulador para dar vida a este régimen de licencias y supervisar su implementación”, dijo Smith en el informe. Dichas licencias deberían ser necesarias para operar programas de IA para ejecutar la infraestructura crítica de un país, agregó, lo que obliga al operador a crear copias de seguridad que podrían permitir que los humanos intervengan en caso de que el programa de IA se descarrile.

Al proponer las regulaciones, Smith también insinuó que el gobierno de EE. UU. debe evitar repetir los errores que vimos con las redes sociales. “Hace poco más de una década, tecnólogos y comentaristas políticos se entusiasmaron por igual con el papel de las redes sociales en la difusión de la democracia durante la Primavera Árabe. Sin embargo, cinco años después de eso, aprendimos que las redes sociales, como muchas otras tecnologías anteriores, se convertirían tanto en un arma como en una herramienta, en este caso dirigida a la democracia misma”, dijo.

Sin embargo, las recomendaciones de Smith probablemente beneficiarán a Microsoft, en lugar de obstaculizar la investigación de la empresa sobre IA. Eso se debe a que Redmond claramente tiene los recursos para cumplir con los altos estándares recomendados en el informe cuando muchas otras empresas más pequeñas y nuevas empresas podrían no hacerlo.

Microsoft también puede temer la perspectiva de regulaciones aún más estrictas provenientes de la Unión Europea, que se está moviendo más rápido que los EE. UU. para crear reglas que regulen la IA. El jueves, Altman de OpenAI dijo a los periodistas que tenía «muchas preocupaciones» sobre la Ley de IA de la UE.(Se abre en una nueva ventana)que aún se está finalizando, pero podría prohibir el uso de IA de ciertas prácticas.

“Intentaremos cumplir, pero si no podemos cumplir, dejaremos de operar (en la UE)”, dijo Altman, según(Se abre en una nueva ventana) a el tiempo financiero.