El miércoles 14 de junio, los eurodiputados dieron un primer acuerdo al proyecto europeo de regulación de la inteligencia artificial (IA), un paso clave en la carrera iniciada por el legislador ante el ritmo frenético de innovaciones en el sector.
La Unión Europea quiere ser la primera en el mundo en adoptar un marco legal integral para limitar los excesos de la IA, al tiempo que garantiza la innovación. Bruselas propuso hace dos años un ambicioso proyecto de reglamento, cuyo examen se ha dilatado y que se ha retrasado aún más en los últimos meses por las polémicas relativas a los peligros de las IA generativas, capaces de crear textos o imágenes.
El Parlamento Europeo adoptó su posición a mediodía, durante una votación en sesión plenaria en Estrasburgo. La aprobación obtenida (499 a favor, 28 en contra, 93 abstenciones) debería permitir iniciar negociaciones con los Estados miembros el miércoles por la noche para finalizar la legislación, si es posible, antes de fin de año. El comisario Thierry Breton, que llevó el texto con su colega Margrethe Vestager, pidió que se concluya el proceso “en los próximos meses”. El reglamento no entrará en vigor antes de 2026, en el mejor de los casos.
De gran complejidad técnica, los sistemas de inteligencia artificial fascinan tanto como preocupan. Si bien pueden salvar vidas al permitir un salto adelante en el diagnóstico médico, también están siendo explotados por regímenes autoritarios para ejercer la vigilancia masiva de los ciudadanos.
Proporcionar control humano sobre la máquina.
La posición del Parlamento confirma en líneas generales el enfoque de la Comisión. El texto se basa en las normas existentes sobre seguridad de los productos e impondrá controles basados principalmente en las empresas. El corazón del proyecto consiste en una lista de reglas impuestas solo a las aplicaciones que se consideran «alto riesgo». Estos serían sistemas utilizados en áreas sensibles, como infraestructura crítica, educación, recursos humanos, vigilancia, gestión de la migración, etc.
Entre las obligaciones: prever el control humano sobre la máquina, el establecimiento de documentación técnica, o incluso la implementación de un sistema de gestión de riesgos. El cumplimiento de los mismos será supervisado por las autoridades de control de cada país miembro.
El Parlamento Europeo tiene la intención de tener mejor en cuenta las IA generativas del tipo ChatGPT al pedir un régimen específico de obligaciones, que esencialmente repite las previstas para los sistemas de alto riesgo.
La propuesta de la Comisión, presentada en abril de 2021, ya proporciona un marco para los sistemas de IA que interactúan con los humanos. Quiere obligar al usuario a ser informado de que está en contacto con una máquina y obligar a las aplicaciones generadoras de imágenes a especificar que han sido creadas artificialmente. Una obligación que probablemente se extenderá a los textos.
La aplicación del mundo
La mañana del mundo
Cada mañana, encuentra nuestra selección de 20 artículos que no te puedes perder
Descarga la aplicación
Las prohibiciones serán raras. Se referirán a aplicaciones que van en contra de los valores europeos, como los sistemas de calificación ciudadana o la vigilancia masiva que se utilizan en China. Los eurodiputados también quieren eliminar las exenciones previstas por la Comisión para autorizar el reconocimiento facial remoto de personas en lugares públicos por parte de las fuerzas del orden. Este tema debería alimentar los debates con los Estados miembros que invocan la lucha contra la delincuencia y el terrorismo para rechazar la prohibición de esta controvertida tecnología.