El Parlamento Europeo acaba de votar para adoptar una propuesta de la Comisión de la UE para hacer más segura la aplicación de la inteligencia artificial. La nueva propuesta, modificada por miembros del Parlamento Europeo (MEP), tiene como objetivo «garantizar que los sistemas de IA sean supervisados por personas, sean seguros, transparentes, rastreables, no discriminatorios y respetuosos con el medio ambiente».
La Ley de IA tiene mucho sentido considerando el estado del discurso de inteligencia artificial en este momento, aunque la primera práctica prohibida en la propuesta original (se abre en una pestaña nueva) está emitiendo algunas vibraciones reales de Yo, Robot.
Entre una larga lista de prácticas no permitidas, se encuentra «la comercialización, puesta en servicio o uso de un sistema de inteligencia artificial que implementa técnicas subliminales más allá de la conciencia de una persona para distorsionar materialmente el comportamiento de una persona de una manera que cause o pueda causar causarle a esa persona o a otra un daño físico o psíquico”.
Por supuesto, siempre hay un área gris en cuanto a lo que constituye daño físico y psicológico. Pero eso es un artículo de opinión para otro día.
noticias del parlamento europeo (se abre en una pestaña nueva) ofrece información sobre la Ley de IA modificada «basada en el riesgo», que pasó a su etapa de negociación preliminar con una enorme mayoría de 84 votos a favor. Solo siete eurodiputados votaron en contra y doce se abstuvieron de votar.
En contra del borrador original, los eurodiputados han realizado algunos cambios en aras de evitar «usos intrusivos y discriminatorios de los sistemas de IA». Brando Benifei, miembro del Partido Socialista y Demócrata italiano y representante del comité de mercado interno, dijo anteriormente que estaba «seguro de que, mañana, agregaremos identificación biométrica en tiempo real y posterior en espacios de acceso público en esta lista de prácticas prohibidas».
Eso ha sucedido, y la lista modificada de prácticas de inteligencia artificial prohibidas ahora es la siguiente:
- Sistemas de identificación biométrica remota “en tiempo real” en espacios de acceso público;
- Sistemas de identificación biométrica a distancia “post”, con la única excepción de las fuerzas del orden para la persecución de delitos graves y sólo previa autorización judicial;
- Sistemas de categorización biométrica que utilizan características sensibles (p. ej., género, raza, etnia, estado de ciudadanía, religión, orientación política);
- Sistemas de reconocimiento de emociones en las fuerzas del orden, la gestión de fronteras, el lugar de trabajo y las instituciones educativas; y
- Raspado indiscriminado de datos biométricos de las redes sociales o imágenes de CCTV para crear bases de datos de reconocimiento facial (violando los derechos humanos y el derecho a la privacidad).
También hay un gran enfoque en la transparencia dentro del acto. Los desarrolladores de «modelos básicos generativos, como GPT» no solo deberán dejar en claro que su contenido fue generado por IA, sino que también deberán tomar medidas para evitar que su modelo «publique resúmenes de datos protegidos por derechos de autor» y «genere contenido ilegal». contenido».
En representación del comité de Libertades Civiles en el expediente, el eurodiputado rumano Dragos Tudorache habló con los periodistas y les aseguró que la ley se ocupará de los problemas de derechos de autor asociados con el desarrollo de la IA. Según su explicación, las empresas de IA que utilicen material protegido por derechos de autor «tendrán la obligación de ser transparentes al respecto, de documentarlo y de ser transparentes, de modo que abra la posibilidad de que los propietarios de los derechos busquen una compensación».
También destaca que es importante no sofocar la innovación en el espacio de puesta en marcha de IA. «Hemos trabajado para apoyar la innovación de la IA en Europa y dar a las empresas emergentes, las pymes y la industria espacio para crecer e innovar, al mismo tiempo que protegemos los derechos fundamentales, fortalecemos la supervisión democrática y garantizamos un sistema maduro de gobernanza y aplicación de la IA».
Si se aprueba la Ley de IA, será la primera de su tipo en el mundo en delinear prácticas seguras y transparentes para el desarrollo de inteligencia artificial. Necesitará el respaldo de todo el Parlamento en la sesión del 12 al 15 de junio, y la mayoría aceptará los cambios realizados por los eurodiputados.