Liu Guanguan/Servicio de noticias de China
Se le ha dicho a Meta que su tratamiento de usuarios de alto perfil, como el ex presidente de los Estados Unidos, Donald Trump, dejó contenido peligroso en línea, al servicio de los intereses comerciales a expensas de sus obligaciones de derechos humanos.
Un informe condenatorio publicado el martes por la junta de supervisión de la compañía, un organismo al estilo de la «Corte Suprema» creado por la empresa matriz de Facebook, Instagram y WhatsApp para dictaminar sobre cuestiones delicadas de moderación, ha instado al gigante de las redes sociales a hacer «significativo» cambios en su sistema interno para revisar contenido de políticos, celebridades y sus socios comerciales.
La junta, que comenzó a evaluar casos el año pasado, está coordinada por el jefe de políticas del gigante tecnológico y ex viceprimer ministro del Reino Unido, Sir Nick Clegg, y emite juicios independientes sobre casos de moderación de alto perfil, así como recomendaciones sobre ciertas políticas.
Se le pidió a la junta que investigara el sistema después de que The Wall Street Journal y la denunciante Frances Haugen revelaran su existencia el año pasado, lo que generó preocupaciones de que Meta estaba dando un trato preferencial a las figuras de élite.
Clegg también tiene hasta el 7 de enero para decidir si permite que Trump regrese a la plataforma luego de una recomendación separada de la junta.
Después de una larga investigación que abarcó más de un año, la junta exigió que Meta audite más de cerca quién está en la llamada lista de «verificación cruzada» y sea más transparente sobre sus procedimientos de revisión.
El informe es una de las investigaciones más profundas hasta el momento sobre los problemas de moderación en Meta, ya que el organismo independiente, compuesto por 20 periodistas, académicos y políticos, ha lidiado con las preocupaciones de que tiene poco poder para responsabilizar a la empresa.
Aumenta aún más la presión sobre el director ejecutivo Mark Zuckerberg, quien el mes pasado anunció planes para recortar 11.000 empleados en medio de la disminución de los ingresos y el crecimiento, para garantizar que el contenido de Meta se vigile de manera justa.
Meta ya comenzó a renovar el sistema. En una publicación de blog el martes, Clegg dijo que originalmente se desarrolló para «verificar dos veces los casos en los que podría haber un mayor riesgo de error o cuando el impacto potencial de un error es especialmente grave». Agregó que la empresa ahora había desarrollado un sistema más estandarizado, con más controles y revisiones anuales.
No está claro cuántas personas están en la lista secreta. El Wall Street Journal, que informó por primera vez sobre la lista, estimó que para 2020 había 5,8 millones de usuarios en la lista. Meta dijo anteriormente que había 666,000 a partir de octubre de 2021.
El sistema significaba que el contenido publicado por personalidades conocidas, como Trump y Elizabeth Warren, permanecería en las plataformas hasta que los moderadores humanos los revisaran, incluso si los mensajes se hubieran eliminado automáticamente si los hubiera publicado un usuario común.
Tomaría cinco días en promedio para que se lleve a cabo esta revisión humana, con el contenido dejado en la plataforma durante este tiempo, y en un caso, hasta siete meses, encontró el informe.
“Faltaba la comprensión propia de Meta de las implicaciones prácticas del programa”, dijo la junta, y agregó que la compañía no evaluó si el sistema funcionó según lo previsto.
La junta también acusó a la empresa de dar respuestas «insuficientes» a la investigación, a veces tardando meses en responder.
La junta hizo referencia a un informe del Wall Street Journal que detalla cómo el futbolista brasileño Neymar publicó imágenes íntimas no consensuadas de otra persona en sus cuentas de Facebook e Instagram, que fueron vistas más de 50 millones de veces antes de ser eliminadas. Según Meta, esto se debió a un «retraso en la revisión del contenido debido a una acumulación en ese momento».
Thomas Hughes, director de la junta de supervisión, dijo que el incidente de Neymar era un ejemplo de cómo las asociaciones comerciales podrían afectar los procesos de moderación.
“Abre inquietudes… sobre las relaciones entre los individuos de la empresa y si eso podría influir en la toma de decisiones”, dijo.
“Probablemente hubo una fusión de diferentes intereses dentro de este proceso de verificación cruzada”, agregó.
El informe sigue a las tensiones públicas anteriores entre la junta y Meta luego de que la primera acusara a la compañía de redes sociales en septiembre de 2021 de retener información sobre el sistema. Muchos ven la junta como un intento de crear distancia entre los ejecutivos de la empresa y las decisiones difíciles sobre la libertad de expresión.
Meta ahora tiene 90 días para responder a las recomendaciones.
© 2022 The Financial Times Ltd. Todos los derechos reservados. No debe ser redistribuido, copiado o modificado de ninguna manera.