Las imágenes generadas por IA y otras formas de deepfakes que representan abuso sexual infantil (ASI) podrían tipificarse como delito en la Unión Europea en el marco de los planes para actualizar la legislación existente para seguir el ritmo de los avances tecnológicos, anunció hoy la Comisión.
También propone crear un nuevo delito penal de transmisión en vivo de abuso sexual infantil. La posesión y el intercambio de “manuales de pedófilos” también estarían tipificados como delito según el plan, que forma parte de un paquete más amplio de medidas que, según la UE, pretende impulsar la prevención de la ASI, incluso aumentando la conciencia sobre los riesgos en línea y facilitando el acceso a Internet. a las víctimas denunciar los delitos y obtener apoyo (incluido el derecho a una compensación financiera).
La propuesta para actualizar las normas actuales de la UE en este ámbito, que datan de 2011, también incluye cambios en torno a la notificación obligatoria de infracciones.
En mayo de 2022, la Comisión presentó un proyecto de ley independiente relacionado con la CSA, con el objetivo de establecer un marco que podría hacer obligatorio que los servicios digitales utilicen tecnologías automatizadas para detectar y denunciar material de abuso sexual infantil (CSAM) existente o nuevo que esté circulando. en sus plataformas e identificar e informar sobre actividades de acoso dirigidas a niños.
El plan de escaneo de CSAM ha demostrado ser muy controvertido y continúa dividiendo a los legisladores en el parlamento y el Consejo, además de generar sospechas sobre los vínculos de la Comisión con los cabilderos de la tecnología de seguridad infantil y plantear otras preguntas incómodas para el ejecutivo de la UE. por una incursión legalmente cuestionable en anuncios microdirigidos para promover la propuesta.
La decisión de la Comisión de priorizar las plataformas de mensajería digital para abordar la CSA ha generado muchas críticas de que los legisladores del bloque se están centrando en el área equivocada para combatir un problema social complejo, lo que puede haber generado cierta presión para que surja un seguimiento. sobre propuestas. (No es que la Comisión esté diciendo eso, por supuesto; describe el paquete de hoy como “complementario” a su propuesta anterior de escaneo de CSAM).
Dicho esto, incluso en los menos de dos años transcurridos desde que se presentó el controvertido plan de escaneo de mensajes privados, ha habido un aumento masivo en la atención a los riesgos en torno a los deepfakes y las imágenes generadas por IA, incluidas las preocupaciones de que se esté abusando de la tecnología para producir CSAM. y le preocupa que este contenido sintético pueda hacer que sea aún más difícil para las autoridades policiales identificar a las víctimas genuinas. De modo que el auge viral de la IA generativa ha dado a los legisladores un claro incentivo para revisar las normas.
«Tanto la mayor presencia de niños en línea como los avances tecnológicos crean nuevas posibilidades de abuso», sugiere la Comisión en un comunicado de prensa de hoy. También dice que la propuesta tiene como objetivo «reducir la impunidad generalizada del abuso y la explotación sexual infantil en línea».
Una evaluación de impacto que la Comisión realizó antes de presentar la propuesta identificó la mayor presencia en línea de niños y los “últimos desarrollos tecnológicos” como áreas que están creando nuevas oportunidades para que se realice la CSA. También dijo que le preocupan las diferencias en los marcos legales de los estados miembros que frenan la acción para combatir el abuso y quiere mejorar los esfuerzos “limitados” actuales para prevenir la ASI y ayudar a las víctimas.
«La rápida evolución de las tecnologías está creando nuevas posibilidades para el abuso sexual infantil en línea y plantea desafíos para que las fuerzas del orden investiguen este delito extremadamente grave y generalizado», añadió Ylva Johansson, comisaria de Asuntos Internos, en una declaración de apoyo. “Es esencial contar con una ley penal sólida y hoy estamos dando un paso clave para garantizar que contamos con herramientas legales efectivas para rescatar a los niños y llevar a los perpetradores ante la justicia. Estamos cumpliendo nuestros compromisos asumidos en la Estrategia de la UE para una lucha más eficaz contra el abuso sexual infantil presentada en julio de 2020”.
En cuanto a los riesgos de seguridad en línea para los niños, la propuesta de la Comisión tiene como objetivo alentar a los estados miembros a aumentar su inversión en «sensibilización».
Al igual que con el plan de escaneo de CSAM, corresponderá a los colegisladores de la UE, en el Parlamento y el Consejo, determinar la forma final de las propuestas. Y hay tiempo limitado para conversaciones antes de las elecciones parlamentarias y el reinicio del colegio de comisionados a finales de este año, aunque las propuestas de hoy para combatir la CSA pueden resultar bastante menos divisivas que el plan de escaneo de mensajes. Por lo tanto, podría existir la posibilidad de que se adopte mientras que el otro sigue estancado.
Si hay un acuerdo sobre cómo modificar la directiva actual sobre la lucha contra la CSA, entraría en vigor 20 días después de su publicación en el Diario Oficial de la UE, según la Comisión.