A menos que actuemos, 2023 será el año en que las mujeres dejen internet. Las mujeres ya enfrentan enormes riesgos en línea. Un informe de Pew Research de una encuesta de EE. UU. muestra que un tercio de las mujeres jóvenes informan haber sido acosadas sexualmente en línea y que las mujeres informan estar más molestas por estas experiencias y verlas como un problema mayor que los hombres. Un estudio de la UNESCO sobre periodistas encontró que el 73 por ciento de las mujeres encuestadas había experimentado violencia en línea, y el 20 por ciento dijo que había sufrido ataques físicos o había sido abusada. desconectado en relación con el abuso en línea. En respuesta, las mujeres periodistas informaron que se autocensuraban, se retiraban de las interacciones en línea y evitaban interactuar con sus audiencias. La periodista filipino-estadounidense y ganadora del Premio Nobel de la Paz, Maria Ressa, escribió sobre el abuso en línea que enfrenta, en un momento dado recibió un promedio de más de 90 mensajes de odio por hora. Después de que ella investigara y escribiera sobre irregularidades en el financiamiento de campañas en torno al entonces candidato presidencial Jair Bolsonaro, el empleador de la periodista brasileña Patrícia Campos Mello recibió cientos de miles de mensajes de WhatsApp acosadores y amenazas de confrontación física, tanto que su empleador, el periódico Folha de S.Paulo, se vio obligada a contratar un guardaespaldas para ella. También tuvo que cancelar todos los eventos durante un mes. Lo que ambas mujeres compartieron fue que se atrevieron a cuestionar el poder mientras eran visibles en las redes sociales.
No son solo las mujeres famosas o muy visibles las que enfrentan suficientes abusos en línea como para considerar abandonar las redes sociales. Una encuesta de YouGov encargada por la aplicación de citas Bumble mostró que casi la mitad de las mujeres de 18 a 24 años recibieron imágenes sexuales no solicitadas en el último año. El miembro del Parlamento del Reino Unido, Alex Davies-Jones, puso la frase «foto de dick» en el registro histórico durante el debate sobre el proyecto de ley de seguridad en línea del Reino Unido cuando le preguntó a un compañero parlamentario si alguna vez había recibido uno. No es, como dijo ella, una pregunta retórica para la mayoría de las mujeres.
El abuso de imágenes íntimas habilitado por IA que combina imágenes para crear o generar imágenes nuevas, a menudo realistas, las llamadas falsificaciones profundas, son otras armas para el abuso en línea que afecta de manera desproporcionada a las mujeres. Las estimaciones de Sensity AI sugieren que del 90 al 95 por ciento de todos los videos falsos profundos en línea son pornografía no consensuada, y alrededor del 90 por ciento de ellos presentan mujeres. La tecnología para crear deepfakes realistas ahora está superando nuestra capacidad y esfuerzos para combatirla. Lo que vemos ahora es una democratización perversa de la capacidad de causar daño: las barreras de entrada para crear deepfakes son bajas y las falsificaciones son cada vez más realistas. Las herramientas actuales para identificar y combatir este abuso simplemente no pueden seguir el ritmo.
Y los efectos del daño en línea contra las mujeres son escalofriantes. Podemos mirar la investigación que se ha hecho en sociedades donde las mujeres enfrentan más restricciones sociales para ver el impacto. En un estudio de investigación pionero, Katy Pearce y Jessica Vitak encontraron mujeres en Azerbaiyán que optaron por no estar en línea porque las posibles repercusiones en el mundo real resultantes del acoso en línea eran simplemente demasiado altas en una cultura basada en el honor con altos grados de vigilancia. En otras palabras, las mujeres se enfrentaban a un doble rasero imposible: incapaces de controlar su imagen en las redes sociales pero castigadas severamente por ello.
Hay respuestas: mejores medidas de seguridad por diseño pueden ayudar a las personas a controlar sus imágenes y sus mensajes. Por ejemplo, Twitter recientemente permitió a las personas controlar cómo se las etiqueta en las fotos. La aplicación de citas Bumble lanzó el acertadamente llamado Detector privado, una herramienta habilitada para IA que permite a los usuarios controlar qué imágenes de desnudos no solicitadas, si las hay, quieren ver. La legislación, como la propuesta de ley de seguridad en línea del Reino Unido, puede impulsar a las empresas de redes sociales a abordar estos riesgos. Está lejos de ser perfecto, pero el proyecto de ley adopta un enfoque de regulación basado en sistemas, y pide a las empresas de plataformas que evalúen los riesgos y desarrollen soluciones iniciales, como mejorar la moderación del contenido humano, tratar mejor las quejas de los usuarios y presionar para que se adopten mejores sistemas. cuidado de los usuarios.
No se garantiza que este enfoque regulatorio evite que las mujeres se desconecten en gran número en 2023. Si lo hacen, no solo se perderán los beneficios de estar en línea, sino que nuestras comunidades en línea sufrirán.