El martes, la Junta de Supervisión Fiscal del Meta dejó caer más de-informe de 50 paginas detallando cómo la compañía necesita revisar sus sistemas que han permitido a las principales personas influyentes y celebridades un margen de maniobra para publicar contenido falso o dañino que de otro modo sería moderado.
Todo tiene que ver con el llamado sistema de «verificación cruzada» de Meta, que fue detallado el año pasado en un informe bomba de El periodico de Wall Street. Cross-check, también conocido como Xcheck, fue diseñado para proteger una lista cultivada de unos pocos millones de celebridades, personas influyentes, políticos, empresas y más de la moderación de contenido a la que estaban sujetos sus otros 3.700 millones de usuarios. Se suponía que el sistema de verificación cruzada haría que humanos reales miraran personalmente estas cuentas especiales para ver si estaban violando las reglas de las plataformas, pero a veces estos análisis se quedaron en el camino durante días. Algunas notificaciones de verificación cruzada nunca se revisaron en absoluto.
los Junta de Supervisión semi-independiente parecía estar de acuerdo con el artículo de Journals, escribiendo «encontramos que el programa parece estar más directamente estructurado para satisfacer las preocupaciones comerciales» al brindar esencialmente a «ciertos usuarios» protección adicional contra la moderación de contenido. La empresa incluso había fallado en rastrear si la verificación cruzada era más precisa que sus sistemas automatizados. Además, la junta notó que la compañía le había mentido repetidamente sobre la verificación cruzada que a menudo les daba a las celebridades un pase gratuito al contenido, como señaló La denunciante de Facebook Frances Haugen en lo que se conoce como The Facebook Papers.
Esencialmente, cualquier persona con una fuerte presencia en línea terminó en la «lista blanca», según el artículo del WSJ de 2021. Cualquier persona en la lista recibió 24 horas completas para eliminar o cambiar personalmente el contenido ofensivo para que pudieran evitar cualquier sanción. La mayoría de los que estaban en la lista ni siquiera lo sabían. Según los informes, este sistema había incluido al ex presidente Donald Trump antes de que finalmente fuera prohibido en 2021. La compañía ha aún no decidido si Trump volverá a Facebook en 2023.
Citando miles de páginas de documentos internos y varias sesiones informativas con ejecutivos de la empresa, la junta dijo que a veces la empresa tardaba «más de cinco días» antes de que el personal de Facebook pudiera revisar las publicaciones en XCheck. Mientras tanto, el contenido ofensivo permaneció en la plataforma. A algunas cuentas les dio mucho más poder para violar las políticas de Facebook en particular, ya que el Journal señaló que el sistema impidió que los moderadores eliminaran fotos de mujeres desnudas publicadas por el destacado futbolista brasileño Neymar da Silva Santos Jr. Cualquier otra cuenta debería haber sido citada por el politicas de la empresa.
Las conclusiones de la junta llegan más de un año después de que aceptara originalmente la solicitud de Meta de investigar sus sistemas internos. La junta le dijo a Meta que necesitaba reestructurar sus sistemas de moderación, principalmente para que sea mucho más transparente sobre quién es elegible para una revisión adicional cuando el sistema de moderación comete errores. La junta también dijo que el contenido de «gravedad alta» debe eliminarse u ocultarse mientras está bajo revisión. Meta tiene 90 días para revisar las opiniones de la junta de supervisión y responder.
Este informe es notable especialmente porque la junta generalmente se opone a la moderación abierta de publicaciones individuales. El comité le dijo recientemente a la compañía que restablecer una publicación comparando el ejército ruso que lucha en Ucrania con los nazis en la Segunda Guerra Mundial. La junta también dará recomendaciones sobre si Meta debería rescindir sus políticas de desinformación covid. En 2023, las políticas de moderación ocultas de Facebook e Instagram podrían verse muy diferentes.