En junio, Global Witness y Foxglove descubrieron que Meta seguía aprobando anuncios en amárico dirigidos a usuarios etíopes que incluían discursos de odio y llamados a la violencia. Facebook ha estado implicado en la difusión del discurso de odio y en el fomento de la violencia étnica en el conflicto en curso de Etiopía.
Crider argumenta que Facebook necesita invertir más en sus prácticas de moderación y protección de la democracia. Le preocupa que incluso la amenaza de una prohibición permita a la empresa desviar la responsabilidad por los problemas que ha dejado sin resolver.
“Creo que, en última instancia, en el momento en que cualquier regulador mira a Facebook y parece que va a obligarlos a hacer algo que podría costarles algo de dinero, comienzan a aullar sobre la censura y presentan una opción falsa de que es esencialmente un moderador y Facebook no regulado o sin Facebook en absoluto”, dice.
Y Crider dice que hay cosas que la compañía puede hacer, incluidas las medidas de «romper el cristal», como quitarle prioridad a sus videos en vivo muy promocionados o limitar el alcance del contenido incendiario y prohibir los anuncios relacionados con las elecciones en el período previo a la votación.
Mercy Ndegwa, directora de política pública de Meta para África Oriental y el Cuerno de África, dijo a WIRED que la compañía «ha tomado medidas importantes para ayudarnos a detectar el discurso de odio y el contenido incendiario en Kenia, y estamos intensificando estos esfuerzos antes de las elecciones». .” Reconoció, sin embargo, que “pese a estos esfuerzos, sabemos que habrá ejemplos de cosas que se nos pasan por alto o que quitamos por error, ya que tanto las máquinas como las personas cometemos errores”. Meta no respondió preguntas específicas sobre la cantidad de moderadores de contenido que hablan swahili u otros idiomas de Kenia, o la naturaleza de sus conversaciones con el gobierno de Kenia.
“Lo que hicieron los investigadores fue someter a prueba los sistemas de Facebook y demostraron que lo que decía la empresa era una tontería”, dice Madung. El hecho de que Meta permitiera anuncios en la plataforma a pesar de un proceso de revisión «plantea preguntas sobre su capacidad para manejar otras formas de discurso de odio», dice Madung, incluida la gran cantidad de contenido generado por el usuario que no requiere aprobación previa.
Pero prohibir las plataformas de Meta, dice Madung, no eliminará la desinformación ni las tensiones étnicas, porque no aborda la causa raíz. “Esta no es una pregunta mutuamente excluyente”, dice. “Necesitamos encontrar un término medio entre los enfoques de mano dura y la rendición de cuentas real de la plataforma”.
El sábado, Joseph Mucheru, secretario del gabinete para Internet y Tecnologías de la Comunicación (TIC), tuiteó, “Los medios, incluidas las redes sociales, seguirán disfrutando de la LIBERTAD DE PRENSA en Kenia. No está claro qué marco legal planea usar NCIC para suspender Facebook. El gobierno está registrado. NO estamos cerrando Internet”. Actualmente no existe un marco legal que permita al NCIC ordenar la suspensión de Facebook, coincide Bridget Andere, analista de políticas de África en la organización sin fines de lucro de derechos digitales Access Now.
“Plataformas como Meta han fracasado por completo en su manejo de la información errónea, la desinformación y el discurso de odio en Tigray y Myanmar”, dijo Andere. “El peligro es que los gobiernos usen eso como una excusa para los cierres de Internet y el bloqueo de aplicaciones, cuando en cambio debería alentar a las empresas a invertir más en la moderación del contenido humano, y hacerlo de una manera ética y respetuosa de los derechos humanos”.
A Madung también le preocupa que, independientemente de si el gobierno decide suspender Facebook e Instagram ahora, es posible que el daño ya esté hecho. “Los efectos se verán en otro momento”, dice. “El problema es que el precedente ahora está oficialmente disponible y podría mencionarse en cualquier momento”.