La Junta de Supervisión está instando a Meta a cambiar la forma en que modera la palabra «shaheed», un término árabe que ha provocado más eliminaciones que cualquier otra palabra o frase en las plataformas de la empresa. Meta pidió ayuda al grupo para elaborar nuevas reglas después de que los intentos de renovarlas se estancaran internamente.
La palabra árabe «shaheed» a menudo se traduce como «mártir», aunque la junta señala que esta no es una definición exacta y que la palabra puede tener «múltiples significados». Pero las reglas actuales de Meta se basan únicamente en la definición de «mártir», que según la compañía implica elogios. Esto ha llevado a una “prohibición general” de la palabra cuando se usa junto con personas designadas como “individuos peligrosos” por la empresa.
Sin embargo, esta política ignora la “complejidad lingüística” de la palabra, que “se usa a menudo, incluso con referencia a personas peligrosas, en informes y comentarios neutrales, discusiones académicas, debates sobre derechos humanos e incluso de manera más pasiva”, dice la Junta de Supervisión. en su opinión. «Existen fuertes razones para creer que los múltiples significados de ‘shaheed’ dan como resultado la eliminación de una cantidad sustancial de material que no pretende elogiar a los terroristas o sus acciones violentas».
En sus recomendaciones a Meta, la Junta de Supervisión dice que la empresa debería poner fin a su “prohibición general” del uso de la palabra para hacer referencia a “individuos peligrosos” y que las publicaciones sólo deberían eliminarse si hay otras “señales de violencia” claras o si el contenido infringe otras políticas. La junta también quiere que Meta explique mejor cómo utiliza los sistemas automatizados para hacer cumplir estas reglas.
Si Meta adopta las recomendaciones de la Junta de Supervisión, podría tener un impacto significativo en los usuarios de habla árabe de la plataforma. La junta señala que la palabra, debido a que es tan común, probablemente «representa más eliminaciones de contenido según los Estándares comunitarios que cualquier otra palabra o frase» en todas las aplicaciones de la empresa.
«Meta ha estado operando bajo el supuesto de que la censura puede mejorar y mejorará la seguridad, pero la evidencia sugiere que la censura puede marginar a poblaciones enteras sin mejorar la seguridad en absoluto», dijo la copresidenta de la junta (y ex primera ministra danesa), Helle Thorning-Schmidt. dijo en un comunicado. «A la Junta le preocupa especialmente que el enfoque de Meta afecte al periodismo y al discurso cívico porque las organizaciones de medios y los comentaristas podrían evitar informar sobre entidades designadas para evitar la eliminación de contenido».
Esta no es la primera vez que Meta ha sido criticado por políticas de moderación que afectan de manera desproporcionada a los usuarios de habla árabe. Un estudio encargado por la empresa descubrió que los moderadores de Meta eran menos precisos al evaluar el árabe palestino, lo que provocaba «falsos ataques» en las cuentas de los usuarios. El año pasado, después de que las traducciones automáticas de Instagram comenzaron a insertar la palabra “terrorista” en los perfiles de algunos usuarios palestinos, la compañía.
La opinión es también un ejemplo más de cuánto tiempo puede tardar la Junta de Supervisión de Meta en influir en las políticas de la red social. La compañía pidió por primera vez a la junta que opinara sobre las reglas hace más de un año (la Junta de Supervisión dijo que “pausó” la publicación de la política después de los ataques del 7 de octubre en Israel para garantizar que sus reglas “soportaran” la “tensión extrema”). ”del conflicto en Gaza). Meta ahora tendrá dos meses para responder a las recomendaciones, aunque los cambios reales en las políticas y prácticas de la empresa podrían tardar varias semanas o meses más en implementarse.
«Queremos que la gente pueda utilizar nuestras plataformas para compartir sus puntos de vista y tener un conjunto de políticas que les ayuden a hacerlo de forma segura», dijo un portavoz de Meta en un comunicado. “Nuestro objetivo es aplicar estas políticas de manera justa, pero hacerlo a escala plantea desafíos globales, razón por la cual en febrero de 2023 solicitamos orientación a la Junta de Supervisión sobre cómo tratamos la palabra ‘shaheed’ cuando nos referimos a personas u organizaciones designadas. Revisaremos los comentarios de la Junta y responderemos dentro de los 60 días”.