«Nuestras políticas de incitación al odio dejan claro que prohibimos el contenido que promueva la violencia o el odio contra individuos o grupos basándose en atributos como la identidad y expresión de género», dijo a WIRED Javier Hernández, portavoz de YouTube. «Actualmente estamos revisando el contenido proporcionado por WIRED y seguimos comprometidos a eliminar cualquier material que viole nuestras Normas comunitarias».
Barrett también dice que algunos de los problemas de Youtube probablemente reflejan una falta de inversión de la empresa en países no occidentales y en idiomas distintos del inglés.
«Se puede entender su deseo de mantener los costes al mínimo», afirma. Pero optar por reducir costos a través de un subcontratista significa que “la moderación, con toda probabilidad, será inadecuada porque la contratación, la capacitación y la supervisión de las personas que realizan el trabajo están recayendo sobre los hombros de un proveedor cuyo único propósito es mantener los costos bajos”.
El cofundador de Koo, Mayank Bidawatka, dijo a WIRED que Koo utiliza una combinación de moderadores independientes y de plantilla para controlar la plataforma en inglés, hindi y portugués.
Y aunque Waghre dice que las plataformas funcionan en el contexto de un entorno de información muy complicado dentro de la India, «todavía tienen la responsabilidad de tomar medidas, especialmente si están definidas por sus propias políticas», dice. «Especialmente cuando se trata de cosas relacionadas con conductas de odio y discursos de odio, especialmente en un contexto de género».
Koo tiene un alcance mucho menor (sólo unos 3,2 millones de usuarios), pero ha sido uno de los favoritos del BJP y sus partidarios. Las publicaciones señaladas por Global Witness y el IFF sobre Koo promovieron la teoría de la conspiración islamofóbica del “amor yihad”, según la cual los hombres musulmanes están tratando de casarse, seducir o secuestrar a mujeres hindúes para forzar un cambio demográfico en la India de mayoría hindú, similar al Teoría de la conspiración del Gran Reemplazo en Estados Unidos. Los términos de servicio de Koo prohíben el “discurso discriminatorio o de odio”, incluidos “comentarios que fomenten la violencia; son racial o étnicamente objetables; intentos de menospreciar a alguien por su nacionalidad; sexo/género; orientación sexual; afiliación religiosa; afiliación política; cualquier discapacidad; o cualquier enfermedad que puedan estar padeciendo”.
En respuesta al informe, Koo le dijo a Global Witness en un correo electrónico que examina el contenido algorítmicamente y luego manualmente en busca de temas sensibles. “Los koos que no están dirigidos a individuos y no contienen malas palabras explícitas generalmente no se eliminan”, pero pueden perder prioridad, dice el correo electrónico.
«De acuerdo con nuestras directrices, se tomaron medidas contra la mayoría de los Koo señalados por Global Witness», dijo Bidawatka a WIRED en respuesta a una solicitud de comentarios. “De los 23 Koos, eliminamos 10 que violaban nuestras pautas y tomamos medidas contra el resto. Las acciones tomadas variaron desde la reducción de la visibilidad de la publicación y la eliminación hasta acciones a nivel de cuenta, como incluir en la lista negra una cuenta que exhibe un comportamiento problemático repetido”.
Con elecciones importantes a la vuelta de la esquina, es probable que los sistemas de las plataformas se vean sometidos a una presión aún mayor.
«Si vas a administrar una plataforma global en un lugar como la India con la participación de millones de personas, necesitas levantar barreras para que sea segura», dice Barrett. «Y para asegurarse de que su empresa no esté haciendo cosas como interrumpir el proceso electoral en el país donde opera».
Este artículo ha sido actualizado para reflejar los comentarios de Koo.