El Parlamento Europeo ha votado para confirmar su mandato de negociación para la Ley de IA, alcanzando un hito importante que desbloquea la siguiente etapa de negociaciones hacia un reglamento paneuropeo para la inteligencia artificial.
Los parlamentarios respaldaron una versión modificada de la propuesta de la Comisión que amplía el libro de reglas de una manera que dicen tiene como objetivo garantizar que la IA que se desarrolla y utiliza en Europa esté “totalmente en línea con los derechos y valores de la UE, incluida la supervisión humana, la seguridad, la privacidad, la transparencia, la no -discriminación y bienestar social y ambiental”.
Entre los cambios que han respaldado los eurodiputados se encuentra la prohibición total de la vigilancia biométrica remota y la vigilancia policial predictiva. También agregaron una prohibición sobre el «raspado no dirigido de imágenes faciales de Internet o imágenes de CCTV para crear bases de datos de reconocimiento facial», por lo que básicamente es una prohibición estricta para Clearview AI y su clase.
La prohibición propuesta de la vigilancia biométrica remota se aplicaría tanto a las aplicaciones en tiempo real o posteriores (después del hecho) de tecnologías como el reconocimiento facial, excepto, en el último caso, para la aplicación de la ley para el enjuiciamiento de delitos graves con suspensión judicial.
Los eurodiputados también agregaron una prohibición sobre el uso de la tecnología de reconocimiento emocional que utilizan las fuerzas del orden, las agencias fronterizas, los lugares de trabajo y las instituciones educativas.
Los parlamentarios también ampliaron la clasificación de los sistemas de IA de alto riesgo para incluir aquellos que representan un daño significativo para la salud, la seguridad, los derechos fundamentales o el medio ambiente de las personas, así como los sistemas de IA utilizados para influir en los votantes y el resultado de las elecciones.
Los eurodiputados también agregaron a la lista de alto riesgo plataformas de redes sociales más grandes que usan algoritmos para recomendar contenido.
La votación plenaria sigue al respaldo del comité a la propuesta modificada el mes pasado después de que los eurodiputados de diferentes grupos políticos analizaron cómo querían modificar el texto de la Comisión, incluso agregando obligaciones a los fabricantes de la llamada IA de propósito general.
En respuesta a los rápidos desarrollos en IA generativa, los eurodiputados han apoyado la imposición de un conjunto de obligaciones en los modelos de IA básicos/de propósito general, como la tecnología que sustenta el chatbot ChatGPT de IA de OpenAI, que requiere que dichos sistemas identifiquen y mitiguen los riesgos antes de colocarlos en el mercado, además de aplicar divulgaciones de transparencia al contenido generado por IA e implementar salvaguardas contra la generación de contenido ilegal.
Los fabricantes de IA de uso general también deben publicar «resúmenes detallados» de la información protegida por derechos de autor utilizada para entrenar sus modelos según la propuesta de los eurodiputados.
Durante una gira por las capitales europeas para reunirse con los legisladores el mes pasado, el director ejecutivo de OpenAI, Sam Altman, criticó este aspecto de la propuesta de la UE. Sugirió que la compañía podría tener que retirar el servicio en la región si no podía cumplir, y dijo a los periodistas que tenía la esperanza de que las obligaciones se revirtieran.
En cualquier caso, la votación plenaria de hoy muestra un apoyo abrumador entre los parlamentarios a la versión modificada del proyecto de ley, incluidas las obligaciones propuestas para los IA de propósito general, con 499 votos a favor y solo 28 en contra (más 93 abstenciones).
La votación para aprobar el mandato significa que ahora pueden comenzar las discusiones entre el parlamento y los gobiernos de los Estados miembros de la UE, con el primer diálogo tripartito programado para esta noche.
Comentando en una declaración después de la votación, el co-ponente Brando Benifei dijo:
Todos los ojos están puestos en nosotros hoy. Mientras las grandes empresas tecnológicas hacen sonar la alarma sobre sus propias creaciones, Europa se ha adelantado y ha propuesto una respuesta concreta a los riesgos que la IA está empezando a plantear. Queremos que se aproveche el potencial positivo de AI para la creatividad y la productividad, pero también lucharemos para proteger nuestra posición y contrarrestar los peligros para nuestras democracias y libertades durante las negociaciones con el Consejo.
En otra declaración de apoyo, el co-ponente Dragos Tudorache agregó:
La Ley de IA marcará la pauta en todo el mundo en el desarrollo y la gobernanza de la inteligencia artificial, asegurando que esta tecnología, destinada a transformar radicalmente nuestras sociedades a través de los enormes beneficios que puede ofrecer, evolucione y se utilice de acuerdo con los valores europeos de democracia, fundamentales derechos y el estado de derecho.
La versión de la Ley de IA que los eurodiputados han respaldado hoy también agrega exenciones para las actividades de investigación y los componentes de IA proporcionados bajo licencias de código abierto, lo que los eurodiputados sugieren que garantizará el apoyo a la innovación, junto con las zonas de pruebas reglamentarias para los sistemas de prueba que se establecerán en el marco.
La propuesta de los eurodiputados también agrega un conjunto de derechos de los consumidores sobre la toma de decisiones de IA, incluida la capacidad de los consumidores de solicitar una reparación colectiva si un sistema de IA les ha causado daño.
La organización europea de consumidores, BEUC, dio la bienvenida a estos cambios, pero criticó al parlamento por no respaldar una prohibición total del uso de IA de reconocimiento emocional (ya que la propuesta no limita el uso comercial de ese aceite de serpiente).
También cree que los eurodiputados han dado a los desarrolladores demasiada discreción para decidir si sus sistemas entran en la categoría de alto riesgo o no, lo que, según dice, podría socavar la eficacia del marco basado en el riesgo.
Eso puede ser motivo de discordia durante los debates tripartitos que necesitan encontrar un compromiso entre la posición del Consejo de la UE, que es el órgano compuesto por los gobiernos de los Estados miembros, y los legisladores en el parlamento para lograr el acuerdo político necesario sobre un texto final y sellar el expediente.
Por lo general, el Consejo de la UE adopta una línea más favorable a la industria, mientras que el parlamento tiende a preocuparse más por los derechos fundamentales. Entonces, queda por ver dónde se encontrarán las dos partes en el medio para regular la IA.
Si no pueden ponerse de acuerdo, el proceso de elaboración de leyes de la UE puede estancarse, o incluso fracasar. Pero hay un ímpetu en Bruselas para superar este archivo dada la cantidad de atención global que ahora se centra en la regulación de la IA. (Ser el primero en dar el golpe con un libro de reglas democrático para la IA presenta oportunidades para que el bloque ejerza influencia más allá de sus fronteras mientras otras jurisdicciones se esfuerzan por descubrir sus propios enfoques para regular un campo complejo de tecnología de rápido desarrollo).
El Consejo adoptó su posición sobre el expediente anterior en diciembre. En ese momento, los Estados miembros favorecían en gran medida diferir qué hacer con la IA de propósito general, a la legislación adicional de implementación. Pero, dado lo que sucedió en el ínterin, con herramientas de IA generativa como ChatGPT disparando al centro de la discusión sobre la tecnología y generando múltiples llamados a la regulación (incluso de muchos tipos de la industria tecnológica), será interesante ver si los Estados miembros acordará con los eurodiputados sobre la necesidad de añadir obligaciones para esta clase de sistemas de IA al texto de la Ley de IA.
El ejecutivo de la UE presentó la propuesta original para el marco basado en el riesgo para la IA en abril de 2021. Si bien ese primer borrador de texto de la Comisión no abordó tan ampliamente el tema de la IA de propósito general, sí propuso disposiciones de transparencia para los chatbots y la tecnología deepfake. Entonces, incluso en ese entonces, los legisladores de la UE opinaban que los consumidores deberían estar informados de que están interactuando con contenido generado por máquinas.
Si bien la Comisión mantiene la esperanza de que las conversaciones tripartitas sobre el archivo de la Ley de IA brinden un acuerdo político para fines de este año, todavía habrá un período de implementación, por lo que es probable que la legislación no se aplique antes de 2026.
Es por eso que la UE también está trabajando en varias iniciativas voluntarias que tienen como objetivo presionar a las empresas de IA para que autorregulen la seguridad mientras tanto.