En medio de la escalada del conflicto en Medio Oriente, X no logra moderar el discurso de odio en su plataforma que promueve conspiraciones antisemitas, elogia a Hitler y deshumaniza a musulmanes y palestinos.
En una nueva investigación, el Centro para Contrarrestar el Odio Digital (CCDH), una organización sin fines de lucro que investiga el odio y el extremismo en línea, recopiló una muestra de 200 publicaciones X en 101 cuentas que presentaban discursos de odio. Cada publicación se informó en la plataforma el 31 de octubre utilizando las herramientas de informes de X y «abordó directamente el conflicto en curso o pareció estar informado por él».
Esa herramienta invita a los usuarios a marcar contenido y proporcionar información sobre en qué categoría de comportamiento cae, incluida una opción para el discurso de odio. Esas opciones de denuncia incluyen “insultos, estereotipos racistas o sexistas, deshumanización, incitación al miedo o la discriminación, referencias de odio, símbolos y logotipos de odio”.
Según la CCDH, 196 de las 200 publicaciones permanecen en línea, mientras que una cuenta fue suspendida después de ser denunciada y dos fueron “bloqueadas”. Una muestra de las publicaciones revisadas por TechCrunch muestra que X continuó presentando contenido que mostraba caricaturas antisemitas, llamaba a los palestinos «animales» e invitaba a otros a «disfrutar del espectáculo de judíos y musulmanes matándose entre sí».
Todas las publicaciones de ejemplo de X revisadas por TechCrunch permanecían en línea al momento de escribir este artículo. De las 101 cuentas representadas en las publicaciones de muestra, 82 eran cuentas pagadas verificadas con un cheque azul.
El recuento de visualizaciones de las publicaciones X varió, pero algunas fueron vistas más de 100.000 veces, incluidas publicaciones que negaban el Holocausto y un gif interactivo que representa a un hombre con una kipá siendo estrangulado, que fue visto casi un millón de veces. Las publicaciones que no fueron eliminadas obtuvieron más de 24 millones de visitas en total.
Si bien una muestra de 200 publicaciones solo representa una fracción del contenido de X en un momento dado, muchas de las publicaciones se destacan por su flagrante racismo, su abierta aceptación de la violencia y por el hecho de que permanecen en línea, incluso ahora. Las empresas de redes sociales regularmente no eliminan franjas de contenido que violan sus reglas, pero generalmente eliminan esas publicaciones muy rápidamente cuando los investigadores o periodistas las destacan.
De las publicaciones de muestra incluidas en el informe del CCDH, algunas ahora tienen una etiqueta que dice «Visibilidad limitada: esta publicación puede violar las reglas de X contra la conducta de odio». Otros contenidos, incluidas publicaciones que promueven conspiraciones antisemitas, desestiman en broma el Holocausto y utilizan un lenguaje deshumanizante para normalizar la violencia contra los musulmanes, permanecen en línea sin etiqueta. TechCrunch se acercó a X para explicarle por qué la compañía no tomó ninguna medida contra la mayoría de las publicaciones, que se informaron hace dos semanas, pero recibió la respuesta automática «Ocupado ahora, vuelva a consultar más tarde».
«X ha tratado de asegurar a los anunciantes y al público que tienen control sobre el discurso de odio, pero nuestra investigación indica que no son más que palabras vacías», dijo Imran Ahmed, director ejecutivo del Centro para Contrarrestar el Odio Digital. “Nuestra prueba de ‘comprador misterioso’ de los sistemas de moderación de contenidos de X – para ver si tienen la capacidad o la voluntad de eliminar 200 casos de discurso de odio claro e inequívoco – revela que los actores del odio parecen tener rienda suelta para publicar retórica cruelmente antisemita y llena de odio. en la plataforma de Elon Musk”.
En sus pautas de seguridad, X establece que los usuarios “no pueden atacar a otras personas por motivos de raza, etnia, origen nacional, casta, orientación sexual, género, identidad de género, afiliación religiosa, edad, discapacidad o enfermedad grave”. Bajo el liderazgo de Elon Musk, la compañía anteriormente conocida como Twitter redujo su fuerza laboral de moderación de contenido, revirtió las políticas de seguridad que protegían a los grupos marginados e invitó a oleadas de usuarios previamente prohibidos a regresar a la plataforma.
Este año, X presentó una demanda contra la CCDH, alegando que la organización sin fines de lucro utilizó datos en la plataforma sin autorización y socava intencionalmente el negocio publicitario de la empresa. La CCDH sostiene que X está ejerciendo amenazas legales para silenciar su investigación, lo que ha influido en gran medida en una serie de informes sobre la laxa moderación del contenido de X bajo Elon Musk.
El mismo día que la CCDH publicó su nuevo informe, X publicó una entrada de blog promocionando sus sistemas de moderación de contenidos durante el conflicto en curso en Israel y Gaza. La compañía dice que ha tomado medidas sobre más de 325.000 contenidos que violan sus Términos de servicio y esas acciones pueden incluir «restringir el alcance de una publicación, eliminar la publicación o suspender la cuenta».
«En tiempos de incertidumbre como el conflicto entre Israel y Hamas, nuestra responsabilidad de proteger la conversación pública se magnifica», escribió el equipo de Seguridad de X.