Después de tres días de intensas negociaciones entre los estados miembros de la Unión Europea (UE) y el Parlamento Europeo, un “acuerdo político” Se encontró, el viernes 8 de diciembre, una legislación sin precedentes a nivel mundial para regular la inteligencia artificial (IA) y evitar posibles abusos.
«¡Histórico! La UE se convierte en el primer continente en establecer normas claras para el uso de la IA », dio la bienvenida al Comisario europeo Thierry Breton, en el origen del proyecto presentado en abril de 2021. Desde esa fecha, las discusiones se han prolongado. La última ronda de negociaciones, que comenzó el miércoles por la tarde, duró casi treinta y cinco horas.
El proceso se vio impactado a finales del año pasado por la aparición de ChatGPT, el generador de texto de la empresa californiana OpenAI, capaz de escribir ensayos, poemas o traducciones en pocos segundos. Este sistema, al igual que los capaces de crear sonidos o imágenes, ha revelado al gran público el inmenso potencial de la IA; pero también ciertos riesgos. La distribución en las redes sociales de fotografías falsas y de gran tamaño ha demostrado, por ejemplo, el peligro de manipulación de la opinión.
Este fenómeno de la IA generativa se ha integrado en las negociaciones actuales, a petición de los eurodiputados, que insistieron en una supervisión específica para este tipo de tecnología de alto impacto. Pidieron más transparencia en los algoritmos y las gigantescas bases de datos en el corazón de estos sistemas. Los Estados miembros temían que una regulación excesiva cortara de raíz a sus campeones emergentes, como Aleph Alpha en Alemania y Mistral AI en Francia, al hacer que los costos de desarrollo fueran prohibitivos.
Obligaciones para sistemas de “alto riesgo”
En cuanto a la IA generativa, el compromiso prevé un enfoque de dos velocidades. Se impondrán reglas a todos para garantizar la calidad de los datos utilizados en el desarrollo de algoritmos y para verificar que no infrinjan la legislación sobre derechos de autor. Los desarrolladores también deberán asegurarse de que los sonidos, imágenes y textos producidos estén claramente identificados como artificiales.
Se aplicarán restricciones reforzadas a los sistemas más potentes. El texto retoma los principios de la normativa europea existente sobre seguridad de los productos, que impone controles basados principalmente en las empresas. El corazón del proyecto consiste en una lista de reglas impuestas a los sistemas considerados como «alto riesgo»principalmente aquellos utilizados en áreas sensibles como infraestructura crítica, educación, recursos humanos, aplicación de la ley, etc.
Estos sistemas estarán sujetos a una serie de obligaciones: control humano de la máquina, establecimiento de documentación técnica, implantación de un sistema de gestión de riesgos.
Prohibiciones raras
La legislación prevé una supervisión específica de los sistemas de inteligencia artificial que interactúan con los humanos. Les obligará a informar al usuario que está en contacto con una máquina.
Las prohibiciones serán raras. Se tratarán de aplicaciones contrarias a los valores europeos, como la calificación ciudadana o los sistemas de vigilancia masiva utilizados en China, o la identificación biométrica remota de personas en lugares públicos para evitar la vigilancia masiva de las poblaciones. Sin embargo, sobre este último punto, los Estados han obtenido exenciones para determinadas misiones policiales, como la lucha contra el terrorismo.
A diferencia de los códigos de conducta voluntarios de ciertos países, la legislación europea estará dotada de medios de vigilancia y sanciones, con la creación de una oficina europea de IA, en el seno de la Comisión Europea. Podrá imponer multas de hasta el 7% de la facturación, con un mínimo de 35 millones de euros, para las infracciones más graves.
“Analizaremos cuidadosamente el compromiso alcanzado hoy y garantizaremos en las próximas semanas que el texto preserve la capacidad de Europa para desarrollar sus propias tecnologías de inteligencia artificial y preserve su autonomía estratégica”reaccionó el ministro digital francés, Jean-Noël Barrot.
El mundo
Oferta especial para estudiantes y profesores.
Acceso ilimitado a todo nuestro contenido desde 8,99 euros al mes en lugar de 10,99 euros
Suscribir
El sector tecnológico es crítico. “La velocidad parece haber prevalecido sobre la calidad, con consecuencias potencialmente desastrosas para la economía europea”, estimó Daniel Friedlaender, director europeo de la Asociación de la Industria de la Computación y las Comunicaciones (CCIA), uno de sus principales grupos de presión. Según él, «trabajo técnico» es ahora » necesario « sobre detalles cruciales.