El Parlamento Europeo votó hoy para avanzar con la primera legislación integral de inteligencia artificial, conocida como la Ley AI.
Es el primer paso de un proceso que culminará a fines de este año cuando se espera que se apruebe una versión final de la ley, Los New York Times informes(Se abre en una nueva ventana). Eso consolidaría a Europa como un modelo global para la regulación tecnológica, como lo ha sido con la privacidad de datos, por ejemplo.
“Hemos hecho historia hoy”, dice Brando Benifei, miembro italiano de la Comisión Europea, autor de la Ley AI, según se informó.(Se abre en una nueva ventana) por el poste de washington. Benifei dice que los legisladores europeos «marcarán el camino» para el resto del mundo sobre la «IA responsable».
Primera diapositiva de una presentación sobre la Ley de IA de la Comisión Europea. (Crédito: artificialintelligenceact.eu)
La Comisión Europea comenzó a redactar la propuesta de 108 páginas(Se abre en una nueva ventana) en 2021, con mayor urgencia desde el lanzamiento explosivo de ChatGPT en el otoño de 2022, así como competidores de Google, Microsoft y creadores de imágenes como Dall-E y Midjourney.
EE. UU. aún tiene que aprobar una legislación similar, optando por enfoques más suaves, como la Ley de Iniciativa Nacional de Inteligencia Artificial.(Se abre en una nueva ventana) (2020) y Declaración de derechos de AI(Se abre en una nueva ventana) (Octubre 2022).
En una audiencia en el Senado sobre IA el mes pasado, el CEO de OpenAI, Sam Altman, instó al Congreso a actuar(Se abre en una nueva ventana) e implementar regulaciones más estrictas para mitigar el daño potencial de estos poderosos y opacos sistemas. El presidente de Microsoft, Brad Smith, también pidió a los EE. UU. y otros países que establezcan sus propias agencias gubernamentales dedicadas a regular la IA.
¿Qué hay en la Ley de IA de la UE?
Página 1 de 108 (Crédito: Ley AI)
La Ley de IA define la inteligencia artificial como software que puede, «para un conjunto dado de objetivos definidos por humanos, generar resultados como contenido, predicciones, recomendaciones o decisiones que influyen en los entornos con los que interactúan», y continúa describiendo los ideales y normas que deben cumplir los sistemas de «alto riesgo» y sus usuarios.
Estipula que, antes del lanzamiento público, los sistemas de alto riesgo deben someterse a una evaluación para garantizar que cumplan con la regulación y que estén diseñados para reducir el riesgo a través de un «diseño y desarrollo adecuados». Con respecto a los modelos de IA que continúan «aprendiendo» después de su lanzamiento inicial, como ChatGPT, se requiere un «sistema de monitoreo posterior al mercado» para observar, documentar e informar cambios significativos y cualquier problema.
Con respecto a los datos, los creadores de modelos de IA deben revelar las fuentes de información protegida por derechos de autor que utilizan sus sistemas para generar resultados. También limita el «uso y el procesamiento de datos biométricos involucrados de manera exhaustiva», particularmente en tecnología de reconocimiento facial.
Los sistemas que cumplan con los reglamentos deben exhibir una insignia de la Comisión Europea al público como señal de su cumplimiento. La propuesta también establece un Consejo Europeo de Inteligencia Artificial.
Si bien la ley se enfoca en las corporaciones que construyen (y se benefician) de los modelos de IA, también incluye algunas disposiciones para que el público limite la difusión de información errónea. Por ejemplo, requiere que cualquier persona que use IA para crear una falsificación convincente de otra persona en imagen, audio o video, revele «que el contenido ha sido creado o manipulado artificialmente etiquetando la salida de inteligencia artificial en consecuencia y revelando su origen artificial. «
Recomendado por Nuestros Editores
Al mismo tiempo, la ley reconoce la «amplia gama de beneficios económicos y sociales» de la IA. Su objetivo es «fomentar la innovación en IA mediante el establecimiento de un entorno controlado de experimentación y pruebas en la fase de desarrollo y precomercialización».
Sin embargo, el proyecto de ley es lo suficientemente restrictivo como para que en un momento Altman dijo que OpenAI dejaría de operar en Europa si se aprobaba, aunque luego revocó esa declaración.
¿Escritor fantasma estadounidense?
A veces, la retórica de la Ley AI parece invocar los ideales estadounidenses de libertad personal y privacidad. Califica el uso del reconocimiento facial basado en IA para la aplicación de la ley en espacios públicos como «particularmente intrusivo para los derechos y libertades de las personas involucradas, en la medida en que puede afectar la vida privada de una gran parte de la población». [and] evocan una sensación de vigilancia constante».
La libertad de pensamiento es otro foco del proyecto de ley. Prohíbe los sistemas de inteligencia artificial que «despliega técnicas subliminales más allá de la conciencia de una persona para distorsionar materialmente el comportamiento de una persona». También requiere sistemas que usen IA para notificar a las personas que están interactuando con un sistema de IA, a menos que sea «obvio por las circunstancias», así como cuando estén expuestos a un modelo que registra y procesa datos emocionales y biométricos.
¡Obtenga nuestras mejores historias!
Matricularse en ¿Qué hay de nuevo ahora? para recibir nuestras mejores historias en su bandeja de entrada todas las mañanas.
Este boletín puede contener publicidad, ofertas o enlaces de afiliados. Suscribirse a un boletín informativo indica su consentimiento a nuestros Términos de uso y Política de privacidad. Puede darse de baja de los boletines en cualquier momento.