Tras una ronda de intensas negociaciones esta semana, los legisladores en Bruselas han llegado a un acuerdo “acuerdo provisional” sobre la propuesta de Ley de Inteligencia Artificial (Ley AI) de la Unión Europea. El Ley de IA de la UE Se prevé que será el primer conjunto integral de reglas del mundo para regular la IA y podría servir como punto de referencia para otras regiones que buscan aprobar leyes similares.
Según el comunicado de prensa, los negociadores establecieron obligaciones para los sistemas de IA de propósito general (GPAI) de “alto impacto” que cumplan con ciertos puntos de referencia, como evaluaciones de riesgos, pruebas adversas, informes de incidentes y más. También exige transparencia por parte de aquellos sistemas que incluyen la creación de documentos técnicos y «resúmenes detallados sobre el contenido utilizado para la capacitación», algo que las empresas como el creador de ChatGPT OpenAI se han negado a hacerlo hasta ahora.
Otro elemento es que los ciudadanos deberían tener derecho a presentar quejas sobre los sistemas de inteligencia artificial y recibir explicaciones sobre las decisiones sobre sistemas de “alto riesgo” que afectan sus derechos.
El comunicado de prensa no entró en detalles sobre cómo funcionaría todo eso o cuáles son los puntos de referencia, pero sí señaló un marco para multas si las empresas infringen las reglas. Varían según la infracción y el tamaño de la empresa y pueden oscilar entre 35 millones de euros o el 7 por ciento de los ingresos globales, hasta 7,5 millones de euros o el 1,5 por ciento de los ingresos globales de la facturación.
Hay una serie de aplicaciones en las que el uso de IA está prohibido, como la extracción de imágenes faciales de imágenes de CCTV, la categorización basada en «características sensibles» como raza, orientación sexual, religión o creencias políticas, reconocimiento de emociones en el trabajo o la escuela, o el creación de sistemas de “puntuación social”. Los dos últimos puntos prohibidos son los sistemas de inteligencia artificial que “manipulan el comportamiento humano para eludir su libre albedrío” o “explotan las vulnerabilidades de las personas”. Las reglas también incluyen una lista de salvaguardias y exenciones para el uso de sistemas biométricos por parte de las fuerzas del orden, ya sea en tiempo real o para buscar evidencia en grabaciones.
Se espera que se llegue a un acuerdo final antes de fin de año. Incluso entonces, es probable que la ley no entre en vigor. hasta 2025 como muy pronto.
El primer borrador de la Ley de IA de la UE fue presentado en 2021, buscando distinguir lo que realmente cuenta como IA y sincronizar las reglas para regular la tecnología de IA en todos los estados miembros de la UE. Ese borrador es anterior a la introducción de herramientas de IA generativa que cambian rápidamente como ChatGPT y Difusión Estable, sin embargo, lo que provocó numerosas revisiones a la legislación.
Aún serán necesarias más negociaciones para ultimar algunos detalles antes de que la Ley de IA entre en vigor.
Ahora que se ha alcanzado un acuerdo provisional, aún serán necesarias más negociaciones, incluidas votaciones de las comisiones de Mercado Interior y Libertades Civiles del Parlamento.