La empresa matriz de Facebook, Meta, dice que sus reglas sobre qué contenido está y no está permitido en su plataforma, como el discurso de odio y el acoso, se aplican a todos.
Pero una junta encargada de revisar algunas de las decisiones de moderación de contenido más difíciles de Meta dijo el martes que la afirmación del gigante de las redes sociales es «engañosa».
En 2021, Meta le pidió a la Junta de Supervisión que investigara un programa llamado verificación cruzada que permite a celebridades, políticos y otros usuarios de alto perfil en Facebook e Instagram obtener una revisión adicional si su contenido se marca por violar las reglas de la plataforma. The Wall Street Journal reveló más detalles sobre el programa el año pasado, señalando que el sistema protege a millones de usuarios de alto perfil de cómo Facebook suele hacer cumplir sus reglas. La estrella del fútbol brasileño Neymar, por ejemplo, pudo compartir fotos de una mujer desnuda que lo acusó de violación con decenas de millones de sus fanáticos antes de que Facebook retirara el contenido.
En una opinión consultiva de política de 57 páginas sobre el programa, la Junta de Supervisión identificó varias fallas en el programa de verificación cruzada de Meta, incluido que brinda más protección a algunos usuarios de alto perfil. La opinión también plantea dudas sobre si el programa de Meta está funcionando según lo previsto.
«La opinión detalla cómo el programa de verificación cruzada de Meta prioriza a los usuarios influyentes y poderosos de valor comercial para Meta y, como está estructurado, no cumple con las responsabilidades de derechos humanos y los valores de la empresa de Meta, con profundas implicaciones para los usuarios y la sociedad civil global», dijo Thomas Hughes, director de la Junta de Supervisión de la Administración, dijo en un comunicado.
Esto es lo que necesita saber sobre el programa de verificación cruzada de Meta:
¿Por qué Meta creó este programa?
Meta dice que el programa de verificación cruzada tiene como objetivo evitar que la empresa tome medidas por error contra el contenido que no viola sus reglas, especialmente en los casos en que existe un mayor riesgo relacionado con cometer un error.
La compañía ha dicho que ha aplicado este programa a publicaciones de medios de comunicación, celebridades o gobiernos. «Por ejemplo, hicimos una verificación cruzada de la cuenta de un activista de los derechos civiles estadounidense para evitar eliminar por error instancias en las que él crea conciencia sobre el discurso de odio que estaba encontrando», dijo Meta en una publicación de blog en 2018.
La empresa también brinda más detalles sobre cómo funciona el programa en su centro de transparencia.
¿Qué problemas encontró la junta?
La junta concluyó que el programa da como resultado un «tratamiento desigual de los usuarios» porque el contenido que está marcado para una revisión adicional por parte de un ser humano permanece en la plataforma durante más tiempo. Meta le dijo a la junta que la compañía puede tardar más de cinco días en tomar una decisión sobre el contenido de los usuarios que forman parte de la verificación cruzada.
“Esto significa que, debido a la verificación cruzada, el contenido identificado como infractor de las reglas de Meta se deja en Facebook e Instagram cuando es más viral y podría causar daño”, dijo la opinión.
El programa también parece beneficiar los intereses comerciales de Meta más que su compromiso con los derechos humanos, según la opinión. La junta señaló problemas de transparencia con el programa. Meta no le dice al público quién está en su lista de verificación cruzada y no rastrea los datos sobre si el programa realmente ayuda a la empresa a tomar decisiones de moderación de contenido más precisas.
La junta le hizo preguntas a Meta 74 sobre el programa. Meta respondió 58 de las preguntas de forma completa y 11 de forma parcial. La empresa no respondió a cinco preguntas.
¿Qué cambios recomendó la junta que hiciera Meta?
La junta hizo 32 recomendaciones a Meta, señalando que debe priorizar el contenido que es importante para los derechos humanos y revisar a esos usuarios en un flujo de trabajo separado de sus socios comerciales. Los números de seguidores o el estatus de celebridad de un usuario no deberían ser el único factor para recibir protección adicional.
Meta también debe eliminar u ocultar el contenido muy grave que se marca por violar sus reglas durante la primera revisión mientras los moderadores revisan la publicación por segunda vez.
«No se debe permitir que dicho contenido permanezca en la plataforma acumulando vistas simplemente porque la persona que lo publicó es un socio comercial o una celebridad», dijo la opinión.
La junta también quiere que Meta sea más transparente sobre el programa al marcar públicamente algunas cuentas protegidas por verificación cruzada, como actores estatales, candidatos políticos y socios comerciales, para que el público pueda responsabilizarlos por si están siguiendo las reglas de la plataforma. Los usuarios también deberían poder apelar el contenido verificado al tablero.
¿Cómo respondió Meta a la opinión de la junta?
La compañía dijo que está revisando la opinión de la junta y responderá dentro de los 90 días.
Meta dijo que el año pasado trabajó para mejorar el programa, como expandir las revisiones cruzadas a los 3 mil millones de usuarios. La compañía dijo que usa un algoritmo para determinar si el contenido tiene un mayor riesgo de ser eliminado por error. Meta también señaló que estableció revisiones anuales para ver quién está recibiendo un nivel adicional de revisión.