Más problemas para los legisladores de la Unión Europea en un área controvertida de la formulación de políticas tecnológicas: a saber, la legislación propuesta por el bloque para aplicar tecnologías de vigilancia, como el escaneo del lado del cliente, a los mensajes digitales para intentar detectar material de abuso sexual infantil (CSAM).
Esta semana, el defensor del pueblo de la Comisión publicó detalles de una conclusión que hizo en diciembre de mala administración por una decisión del ejecutivo de la UE de no publicar información más completa sobre sus comunicaciones con un fabricante de tecnología de seguridad infantil. El año pasado, la Comisión publicó algunos documentos relativos a sus intercambios con la empresa en cuestión, pero negó el acceso a otros.
La recomendación sigue a una denuncia presentada al Defensor del Pueblo en junio de 2022, presentada por un periodista, que había solicitado acceso público a los documentos enviados a la Comisión por Thorn, una entidad estadounidense que vende tecnologías de inteligencia artificial que, según afirma, pueden detectar y eliminar CSAM.
En su recomendación, la Defensora del Pueblo de la UE, Emily O’Reilly, insta a la Comisión a «reconsiderar su decisión con miras a dar un acceso público significativamente mayor, si no completo, a los documentos en cuestión».
«A la luz del procedimiento legislativo en curso y de la consiguiente urgencia de este caso, el Defensor del Pueblo instó a la Comisión a implementar su recomendación rápidamente», añade.
La Comisión presentó su propuesta original para un marco legal que podría obligar a los servicios digitales a utilizar tecnologías automatizadas para detectar e informar CSAM nuevos o existentes, y también identificar e informar actividades de acoso dirigidas a niños en sus plataformas, en mayo de 2022. Pero el expediente permanece bajo negociaciones activas por parte de sus colegisladores de la UE, el Parlamento Europeo y el Consejo, un factor que el Defensor del Pueblo señala como una consideración importante para aplicar la transparencia para impulsar la rendición de cuentas en torno a la legislación de la UE.
La divulgación de los documentos en cuestión «permitirá al público participar más eficazmente en un proceso de toma de decisiones que muy probablemente afectará directamente la vida cotidiana de los ciudadanos al limitar su derecho a la privacidad», sugiere. “En segundo lugar, la transparencia permitirá al público examinar quién y qué informó la propuesta legislativa en cuestión. A las partes interesadas que aportan activamente sus opiniones no se les debe permitir hacerlo a puerta cerrada”.
Los críticos han sugerido que la controvertida propuesta de escaneo de mensajes de la Comisión ha sido indebidamente influenciada por cabilderos que promueven tecnología patentada de seguridad infantil que se beneficiará comercialmente de las leyes que exigen controles CSAM automatizados.
El otoño pasado, un seminario organizado por el Supervisor Europeo de Protección de Datos también escuchó una amplia gama de preocupaciones de que la propuesta de la Comisión probablemente sea ineficaz como herramienta para combatir el abuso sexual infantil y un riesgo importante para las libertades fundamentales en una sociedad democrática.
Desde entonces, los parlamentarios han respaldado un enfoque revisado para combatir el CSAM que eliminaría el requisito de que las plataformas de mensajería escaneen mensajes cifrados de extremo a extremo, entre otras limitaciones. Pero la legislación de la UE es un asunto de tres vías: requiere también la aceptación de la Comisión y el Consejo. Así que queda por ver dónde aterrizará el archivo CSAM.
Cuando se le preguntó el lunes sobre la recomendación del Defensor del Pueblo de que la Comisión publicara más intercambios con Thorn, el ejecutivo de la UE tuvo hasta hoy (miércoles) para enviarnos una breve respuesta (ver más abajo). Su respuesta sugiere que planea tomarse su tiempo para reflexionar sobre la conclusión de mala administración del Defensor del Pueblo, dado que se asegura de marcar un plazo generoso para responder a sus recomendaciones, que es dentro de más de dos meses. Lo que no sugiere que se avecina una resolución rápida. Más bien huele a una lata pateada por el camino.
He aquí la declaración, atribuida a la portavoz de Asuntos Internos de la Comisión Europea, Anitta Hipper:
La Comisión proporcionará acceso a los documentos según corresponda y dentro de nuestro marco legal. En concreto, en lo que respecta a la recomendación del Defensor del Pueblo, la Comisión considerará cuidadosamente la recomendación del Defensor del Pueblo. La respuesta deberá recibirse antes del 19 de marzo.
La propuesta legislativa ya ha provocado otra polémica interna en la Comisión. El año pasado se metió en problemas por los anuncios microdirigidos que su división de asuntos internos fue vista publicando en la red social X para promover la legislación, lo que dio lugar a una serie de quejas de protección de datos, ya que los datos utilizados para la segmentación parecían incluir información personal confidencial.
En noviembre, el grupo de derechos de privacidad noyb presentó una queja contra la Comisión por esto ante su organismo de supervisión de la privacidad, el Supervisor Europeo de Protección de Datos.
Mientras tanto, una investigación interna abierta por la Comisión tras la noticia del episodio aún no ha arrojado resultados públicos. Cada vez que preguntamos a la Comisión sobre esta investigación, dijo que no tenía ninguna actualización.
Sin embargo, la existencia de la investigación interna ha tenido un resultado tangible: el Defensor del Pueblo de la UE se negó a abrir una investigación sobre la microtargeting tras una queja del eurodiputado Patrick Breyer en octubre pasado; en su respuesta al eurodiputado, O’Reilly señaló que la investigación en curso de la Comisión “motivos suficientes” para que no investigara en ese momento, y escribió: “Observo que la Comisión ha explicado en los medios de comunicación que se están llevando a cabo investigaciones internas. Por lo tanto, por el momento no encuentro motivos suficientes para abrir una investigación”.
Al mismo tiempo, aceptó abrir una investigación sobre el traslado de dos empleados de Europol, una agencia coordinadora paneuropea de aplicación de la ley, a Thorn, tras otra queja de Breyer sobre un posible conflicto de intereses.
«He decidido abrir una investigación para investigar cómo Europol abordó el traslado de dos ex miembros del personal a puestos relacionados con la lucha contra el abuso sexual infantil en línea», escribió. “Como primer paso, he decidido que es necesario inspeccionar ciertos documentos en poder de Europol relacionados con estas actividades posteriores al servicio. Espero recibir estos documentos antes del 15 de enero de 2024”.
Queda por ver qué concluirá la investigación del Defensor del Pueblo sobre las comunicaciones de Europol con Thorn. (Pero tal vez no sea una pequeña ironía que la controversia adicional en torno a la propuesta de escaneo de mensajes de la Comisión esté siendo avivada por el acceso (y/o, bueno, la falta de él) a las comunicaciones «privadas» que pasan entre las instituciones de la UE y los lobbystas de la industria. Posiblemente hay un mensaje allí para los responsables políticos si pudieran leerlo).
Nos comunicamos con Thorn pero no respondió a una solicitud de comentarios sobre la investigación del defensor del pueblo.
Un artículo de periodismo de investigación publicado por BalkanInsight el otoño pasado, que analizaba el cabildeo de Thorn y los informes sobre las comunicaciones entre la Comisión y Thorn que sus periodistas pudieron obtener, cuestionó el nivel de influencia de los fabricantes comerciales de tecnología de seguridad infantil que pueden sacar provecho de las leyes que exigen el escaneo de mensajes ha adquirido sobre la formulación de políticas de la UE.
«Después de siete meses de comunicación sobre el acceso a los documentos y la intervención del Defensor del Pueblo Europeo, a principios de septiembre la Comisión finalmente publicó una serie de intercambios de correos electrónicos entre la Dirección General de Migración y Asuntos de Interior de Johansson y Thorn», informaron sus periodistas. «Los correos electrónicos revelan una relación de trabajo estrecha y continua entre las dos partes en los meses posteriores al lanzamiento de la propuesta CSAM, con la Comisión facilitando repetidamente el acceso de Thorn a lugares cruciales de toma de decisiones a los que asistieron ministros y representantes de los estados miembros de la UE».
La comisaria de la UE que encabeza la propuesta de escaneo de CSAM, la comisaria de Asuntos Internos, Ylva Johansson, ha rechazado repetidamente las afirmaciones de que permitió que los lobbystas de la industria influyeran en su propuesta.
Un informe de seguimiento de BalkanInsight del año pasado, citando actas publicadas bajo libertad de información, encontró que los funcionarios de Europol habían presionado en una reunión con el personal de la Comisión para obtener acceso sin filtros a los datos que se obtendrían bajo la propuesta de escaneo CSAM; y que los sistemas de escaneo se utilicen para detectar otros tipos de delitos, no sólo el abuso sexual infantil.
Los críticos de la controvertida propuesta de escaneo de CSAM de la UE han advertido durante mucho tiempo que una vez que la tecnología de vigilancia se incorpore a la infraestructura de mensajería privada, las agencias policiales ejercerán presión para ampliar el alcance de lo que se está escaneando.