Paulita Paupel, quien dirige la rama europea del organismo comercial de la industria para adultos, la Coalición por la Libertad de Expresión, dice que las medidas enérgicas están teniendo un impacto preocupante en las personas y su capacidad para compartir contenido en línea. “La gente está huyendo del país”, dice Paupel. “La mayoría de los principales creadores de contenido ya han cambiado su residencia a otros países europeos, principalmente Austria, Suiza y Chipre”. Otros han cambiado sus estrategias de marketing para evitar Twitter (lo que afecta la cantidad de dinero que pueden ganar), y las personas nuevas en la industria pueden desanimarse de comenzar una carrera, dice Paupel. “Esto afecta principalmente a los creadores LGBTQI+ y BIPOC”.
Internet está, por supuesto, inundado de pornografía, desde Reddit, Snapchat y Twitter hasta OnlyFans, PornHub y xVideos, con millones de personas en todo el mundo involucradas en la industria. A nivel mundial, es un gran negocio que genera miles de millones de dólares cada año. Si bien existen medidas enérgicas contra la pornografía en todo el mundo, Alemania parece tener un tipo de aplicación particularmente fuerte en el mundo occidental, a pesar de ser uno de los mayores consumidores de pornografía.
“Alemania ha sido la más agresiva en la supresión del discurso”, dice Mike Stabile, portavoz de la Coalición por la Libertad de Expresión con sede en Estados Unidos. “Creo que Alemania ha sido la más agresiva en esto en su búsqueda, tanto en términos del alcance de sus leyes como de su aplicación”.
Vigilancia de IA
Desde 2019, los reguladores de medios de Alemania han estado desarrollando y luego utilizando un sistema de inteligencia artificial para detectar contenido en línea que pueda infringir las leyes del país. El sistema de inteligencia artificial, llamado KIVI, fue desarrollado por la autoridad de medios de Renania del Norte-Westfalia, junto con una empresa privada con sede en Berlín, y ahora lo utilizan todas las autoridades de medios de Alemania.
Se promociona que KIVI puede escanear publicaciones públicas en siete redes sociales y aplicaciones de mensajería, incluidos Twitter, YouTube, TikTok, Telegram y VK (la versión rusa de Facebook), así como sitios web en Internet abierto. Facebook e Instagram de Meta, que prohíben la desnudez, actualmente no están siendo escaneados. Según la descripción de la herramienta de Renania del Norte-Westfalia, puede comprobar 10.000 páginas al día. Poco después de que la autoridad comenzara a usar KIVI, dijo que las detecciones de la autoridad «se dispararon».
El portavoz de la autoridad de medios de Renania del Norte-Westfalia dice que desde 2021 la autoridad ha detectado casi 5.000 “violaciones”. El sistema busca contenido problemático buscando palabras clave y enlaces alemanes predeterminados, y la autoridad dice que usa una combinación de reconocimiento de imágenes y reconocimiento de texto para detectar resultados «positivos».
Ella Jakubowska, asesora principal de políticas de la organización sin fines de lucro de derechos civiles European Digital Rights (EDRi), dice que los derechos humanos de las personas se ponen en riesgo cuando las grandes empresas tecnológicas o los gobiernos manejan la moderación del contenido. “Pero la idea de que las entidades estatales controlen lo que hacemos y no vemos en línea parece en sí misma muy preocupante”, dice Jakubowska.
KIVI busca múltiples tipos de contenido, incluido el extremismo político y la negación del Holocausto, la violencia y la pornografía. Sin embargo, las “violaciones” de pornografía encabezan la lista, con 1944 incidentes señalados en los últimos dos años, según cifras compartidas por la autoridad de medios de Renania del Norte-Westfalia. El portavoz dice que el sistema señala posibles violaciones de las leyes y luego los investigadores humanos examinan los resultados y deciden si se debe tomar alguna medida. “KIVI protege a los empleados de la exposición repentina e inesperada a contenido estresante”, dice Plass de la autoridad de Berlín.