El organismo de control de la cohesión nacional de Kenia amenazó con suspender Facebook del país el viernes si no mitiga el discurso de odio antes de las elecciones generales del país el próximo mes. El regulador le dio a la compañía una semana para remediar el problema, que incluyó la aprobación de anuncios de Facebook que abogan por la limpieza étnica. Las organizaciones de derechos humanos y el denunciante de Facebook están pidiendo a Facebook que suspenda de inmediato toda la publicidad en Kenia y tome otras medidas de emergencia.
La Comisión Nacional de Cohesión e Integración (NCIC), una agencia de Kenia fundada para mitigar la violencia étnica y promover la recuperación nacional tras la crisis postelectoral de 2007-08, dijo a los periodistas el viernes que Facebook estaba “en violación de las leyes de nuestro país.»
“Se han permitido ser un vector de discurso de odio e incitación, información errónea y desinformación”, dijo Danvas Makori, comisionado del NCIC durante una sesión informativa.
Facebook afirmó la semana pasada haber tomado medidas enérgicas contra el contenido dañino en el país, y emitió un comunicado de prensa en el que se elogiaba a sí mismo por las muchas formas en que abordaba el contenido problemático. Pero inmediatamente después, la compañía aprobó la publicación de anuncios en inglés y swahili diseñados específicamente para instigar la violencia étnica en Kenia, dijeron grupos de derechos humanos.
Grupos sin fines de lucro Global Witness y Foxglove reveló el jueves que una tercera prueba independiente había demostrado que Facebook era incapaz de detectar lenguaje diseñado para incitar a la violencia en torno a las elecciones de agosto. Específicamente, dijeron los grupos, Meta aprobó anuncios en Facebook tanto en swahili como en inglés que incluían llamados a violar y decapitar a ciudadanos kenianos por motivos étnicos. —
“Si Mark Zuckerberg elige sentarse de brazos cruzados, dejará en claro que para él y para Facebook, las vidas de los estadounidenses importan, las vidas de los kenianos no”, dijo el director de Foxglove, Cori Crider.
El NCIC dijo el viernes que los resultados de las pruebas de Global Witness/Foxglove habían corroborado sus propios hallazgos internos.
“La suspensión de anuncios y la implementación de medidas de ‘romper vidrios’ son pasos que Facebook puede tomar para reducir el riesgo para las elecciones de Kenia hoy. Eso es lo que estamos pidiendo”, dijo Crider, señalando los pasos tomados por la plataforma luego de la insurrección estadounidense el 6 de enero de 2021.
Global Witness dijo en un declaración que eligió deliberadamente no publicar el lenguaje exacto utilizado en las pruebas realizadas en Facebook, pero describió los anuncios como “deshumanizantes, comparando grupos tribales específicos con animales y llamando a la violación, el sacrificio y la decapitación”.
Los grupos dijeron que las pruebas se centraron exclusivamente en el sistema de anuncios de Facebook. Esto les permitió evaluar el proceso de aprobación de contenido de Facebook y evitar exponer cualquier usuarios reales al contenido virulento.
Global Witness dijo que después de que Facebook se convirtióConsciente de las pruebas, la compañía publicó un comunicado de prensa que describe la miríada de medidas que supuestamente ha tomado para “garantizar unas elecciones generales seguras en Kenia”.
Meta afirma en la declaración que utiliza una «combinación de inteligencia artificial, revisión humana e informes de usuarios» para abordar el contenido dañino y dijo que se asoció con organizaciones de la sociedad civil, como la Asociación Parlamentaria de Mujeres de Kenia, «para garantizar una experiencia más segura a través de nuestro tecnologías.”
Global Witness dijo que después de la declaración de Meta, envió anuncios adicionales para descubrir si Facebook realmente había implementado mejoras que detectarían mejor el discurso de odio en los anuncios. Facebook también falló esas pruebas.
“Una vez más, se aprobaron los anuncios que volvimos a enviar en swahili e inglés”, dijo Global Witness.
En una declaración a Gizmodo, un portavoz de Meta reiteró que la empresa ha tomado «medidas amplias» para detectar el discurso de odio en la plataforma y que está «intensificando estos esfuerzos» antes de las elecciones nacionales de Kenia. “A pesar de estos esfuerzos, sabemos que habrá ejemplos de cosas que nos perdemos o que eliminamos por error, ya que tanto las máquinas como las personas cometen errores”, dijeron.
El portavoz dijo que Meta tiene equipos que monitorean tales errores y agregó que se solucionan «lo más rápido posible».
La denunciante de Facebook Frances Haugen se hizo eco del llamado de Global Witness y Foxglove para la suspensión de toda la publicidad en Kenia.
“La seguridad de las elecciones de Kenia es tan importante como la de Estados Unidos”, dijo Haugen. “Después del 6 de enero, el personal de Facebook tomó medidas urgentes para restringir las funciones más peligrosas de la plataforma, reduciendo la violencia y el odio en la plataforma. También han suspendido anuncios previamente. Dado que ahora tenemos evidencia de que Facebook no invirtió en medidas básicas de seguridad de anuncios en Kenia, Facebook debería suspender los anuncios como mínimo hasta las elecciones”.
Las elecciones generales de Kenia para elegir un nuevo presidente y miembros de su Asamblea Nacional se llevarán a cabo el 9 de agosto de 2022.
Actualización, 14:30: Se agregó un comentario de un portavoz de Meta proporcionado después de la publicación.