Aunque los términos de servicio de Twitter prohibir explícitamente las publicaciones glorificar las autolesiones y medios que representan «heridas visibles,Investigadores independientes informan que, con demasiada frecuencia, Twitter aparentemente mira hacia otro lado con respecto a las autolesiones. Los investigadores del Network Contagion Research Institute (NCRI) estiman que hay «ciertamente» miles, y posiblemente «cientos de miles», de usuarios que violan regularmente estos términos. sin ninguna aplicación por parte de Twitter El resultado de la supuesta inacción de Twitter: desde octubre, las publicaciones que usan hashtags de autolesiones han experimentado un «crecimiento prolífico».
Según los informes, Twitter fue alertado públicamente sobre problemas con la moderación de contenido de autolesiones ya en octubre pasado. Fue entonces cuando una organización benéfica del Reino Unido dedicada a los derechos digitales de los niños, 5Rights, informó a un regulador del Reino Unido que había un problema importante con el sistema de recomendación algorítmica de Twitter. La investigación de 5Rights encontró que el algoritmo de Twitter «dirigía cuentas con avatares de niños que buscaban las palabras ‘autolesiones’ a usuarios de Twitter que compartían fotografías y videos de cortes».
En octubre, Twitter le dijo al Financial Times que «va en contra de las reglas de Twitter promover, glorificar o alentar el suicidio y las autolesiones. Nuestra prioridad número uno es la seguridad de las personas que usan nuestro servicio. Si los tweets violan nuestras reglas sobre el suicidio y las autolesiones y la glorificación de la violencia, tomamos medidas de cumplimiento decisivas y apropiadas».
El informe de NCRI muestra una colección de tuits que proporcionan evidencia gráfica que muestra que cualquier paso que haya tomado Twitter desde el otoño pasado ha hecho poco para combatir el problema. Incluso los usuarios con pocos seguidores parecen obtener una exposición más amplia para las publicaciones que promueven la autolesión, mostró su investigación. Señalando solo un hashtag «#shtwt» (que significa «autolesiones en Twitter»), los investigadores descubrieron que los usuarios con el hashtag en sus biografías se han duplicado desde el otoño pasado. Además, «las menciones mensuales de ‘shtwt’ y los términos de autolesión asociados han aumentado en más del 500 por ciento desde que Twitter fue alertado públicamente por primera vez sobre el problema». Mientras que en octubre hubo menos de 4000 tuits mensuales con el hashtag, informan que la tendencia al alza alcanzó su punto máximo en julio de 2022 con «cerca de 30 000».
Un portavoz de Twitter proporcionó una declaración más reciente a Ars que se hace eco en gran medida de lo que dijo la compañía en octubre pasado. La compañía aún considera que «en contra de las reglas de Twitter promover, glorificar o alentar la autolesión» y dice que «la seguridad de las personas que usan nuestro servicio es nuestra prioridad, y estamos comprometidos a construir una Internet más segura y mejorar la salud de la conversación pública».
¿Qué podría hacer Twitter para evitar que se propague el contenido de autolesiones?
Los investigadores del NCRI dicen que existen varias razones por las que Twitter no logra moderar el contenido de autolesiones.
Por un lado, los usuarios son deliberadamente evasivos. Se basan en un lenguaje codificado en los tuits (como «brazos» o «arañazos de gato») que Twitter puede no tener en cuenta y, a veces, los usuarios afirman que las imágenes gráficas que representan heridas muestran sangre falsa. Ambas son tácticas aparentemente exitosas para evitar la eliminación de contenido.
Por otro lado, los investigadores dicen que Twitter se dedica más a moderar el contenido político donde los usuarios molestos son más hostiles dentro de las comunidades y es probable que informen sobre el contenido que perjudica a otros. Dicen que no existe ese nivel de ira entre los miembros de la comunidad que glorifican las autolesiones. Los investigadores sugieren que debido a que «los miembros de la comunidad de autolesiones no son hostiles y se celebran» unos a otros, «en lugar de burlarse unos de otros», la comunidad no se controla a sí misma de la misma manera. Por lo tanto, se hace necesario que Twitter sea más proactivo en la búsqueda y el marcado de contenido, dice, porque es poco probable que los miembros de la comunidad de autolesiones se denuncien o informen entre sí en Twitter y, por lo tanto, pueden pasar desapercibidos más fácilmente.
Para mejorar la moderación del contenido de autolesiones y los problemas informados con su algoritmo, Twitter ahora usa «otras herramientas» que la compañía ha «implementado en torno a este tipo de contenido», que incluye «no permitir que los términos asociados conocidos aparezcan en la parte superior de la búsqueda o en búsqueda de escritura anticipada». Twitter también trabaja con organizaciones para redirigir a las personas que buscan términos de autolesiones en más de 30 países a «recursos confiables que utilizan mensajes de #ThereisHelp».
Al describir a Twitter como un «acelerador continuo y potente de trastornos graves», el informe del NCRI advierte que «si estas redes continúan creciendo sin cesar en Twitter, también lo hará el riesgo de lesiones cada vez más graves o incluso fatales». Un profesor de psicología de la Universidad de Rutgers que ayudó a redactar el informe, Lee Jussim, le dijo a The Washington Post que, según el aumento que su equipo presenció solo el año pasado, «me huele a contagio de las redes sociales».
Ars no pudo comunicarse de inmediato con Jussim y 5Rights para obtener comentarios adicionales.