Meta nuevamente enfrenta acusaciones de que no está haciendo lo suficiente para prevenir la propagación del discurso de odio y el contenido violento en los anuncios de Facebook. Un nuevo informe detalla ocho anuncios de este tipo, dirigidos a audiencias en Europa, que fueron aprobados a pesar de contener violaciones flagrantes de las políticas de la empresa en materia de discurso de odio y violencia.
El informe proviene de la organización de vigilancia Ekō, que comparte su trabajo para llamar la atención sobre las «prácticas de moderación deficientes» de la red social antes de que la Ley de Servicios Digitales (DSA) entre en vigor en Europa a finales de esta semana. Detalla cómo, durante unos pocos días a principios de agosto, la organización intentó comprar 13 anuncios de Facebook, todos los cuales utilizaban imágenes generadas por IA e incluían texto que claramente iba en contra de las reglas de la compañía.
Ekō retiró los anuncios antes de que los usuarios pudieran verlos. El grupo solicitó que se ocultara la redacción exacta de los anuncios, pero ofreció descripciones de algunos de los ejemplos más atroces. Los anuncios aprobados incluyeron uno, colocado en Francia, que “pidió la ejecución de un destacado eurodiputado debido a su postura sobre la inmigración”, así como un anuncio dirigido a usuarios alemanes que “pidió que las sinagogas fueran quemadas hasta los cimientos para ‘proteger a los blancos’. Alemanes’”. Meta también aprobó anuncios en España que afirmaban que las elecciones más recientes fueron robadas y que la gente debería participar en protestas violentas para revertirlas.
«Este informe se basó en una muestra muy pequeña de anuncios y no es representativo de la cantidad de anuncios que revisamos diariamente en todo el mundo», dijo un portavoz de Meta en un comunicado. «Nuestro proceso de revisión de anuncios tiene varias capas de análisis y detección. , tanto antes como después de que se publique un anuncio. Estamos tomando amplias medidas en respuesta a la DSA y continuamos invirtiendo importantes recursos para proteger las elecciones y protegernos contra el discurso de odio, así como contra la violencia y la incitación”.
Si bien hubo un puñado de anuncios que fueron detenidos por los controles de Meta, Ekō dice que se impidió que se publicaran porque estaban marcados como políticos, no por la retórica violenta y llena de odio que contenían. (La empresa exige que los anunciantes políticos pasen por un proceso de investigación adicional antes de ser elegibles para publicar anuncios).
Ekō está utilizando el informe para abogar por salvaguardias adicionales bajo la DSA, una ley radical que requiere que las plataformas tecnológicas limiten algunos tipos de publicidad dirigida y permitan a los usuarios optar por no participar en algoritmos de recomendación. (Varios servicios, incluidos Facebook, Instagram y TikTok, han realizado cambios recientemente para cumplir con esta última disposición). También requiere que las plataformas identifiquen y mitiguen los «riesgos sistémicos», incluidos los relacionados con contenido ilegal y violento.
«Con unos pocos clics, pudimos demostrar lo fácil que es para los malos actores difundir discursos de odio y desinformación», dijo Vicky Wyatt, directora de campaña de Ekō, en un comunicado. “Con las elecciones de la UE a la vuelta de la esquina, los líderes europeos deben hacer cumplir la DSA en toda su extensión y finalmente frenar a estas empresas tóxicas”.