El año pasado, el Centro Nacional para Niños Desaparecidos y Explotados (NCMEC, por sus siglas en inglés) publicó datos que muestran que recibió abrumadoramente más informes de material de abuso sexual infantil (CSAM, por sus siglas en inglés) de Facebook que cualquier otro servicio web que rastreó. Mientras que otras plataformas sociales populares como Twitter y TikTok tenían decenas de miles de informes, Facebook tenía 22 millones.
Hoy, Facebook anunció nuevos esfuerzos para limitar la propagación de parte de ese MASI en sus plataformas. Al asociarse con NCMEC, Facebook está construyendo una «plataforma global» para prevenir la «extorsión sexual» al ayudar a «detener la difusión de imágenes íntimas de adolescentes en línea».
“Estamos trabajando con el Centro Nacional para Niños Desaparecidos y Explotados (NCMEC, por sus siglas en inglés) para construir una plataforma global para adolescentes que están preocupados de que las imágenes íntimas que crearon puedan compartirse en plataformas públicas en línea sin su consentimiento”, dijo Antigone Davis, vicepresidenta global de Facebook. jefe de seguridad, dijo en una publicación de blog el lunes.
Esta plataforma global para adolescentes funcionará de manera similar a la plataforma que creó Meta para ayudar a los adultos a combatir la «pornografía de venganza», dijo Davis, que Facebook dijo el año pasado que era «la primera iniciativa global de este tipo». Permite a los usuarios generar un hash para evitar de forma proactiva que las imágenes se distribuyan en Facebook e Instagram.
Según Davis, Meta descubrió que más del 75 por ciento del contenido de explotación infantil que prolifera en sus plataformas a un ritmo que supera a otras redes sociales es publicado por personas «sin intención aparente de dañar». En cambio, el CSAM se comparte para expresar indignación, disgusto o “mal humor”, dijo Davis.
“Compartir este contenido viola nuestras políticas, independientemente de la intención”, dijo Davis. “Planeamos lanzar una nueva campaña de anuncios de servicio público que aliente a las personas a detenerse y pensar antes de volver a compartir esas imágenes en línea y, en su lugar, informarnos de ellas”.
También dijo que habría más noticias sobre la nueva plataforma para adolescentes en las próximas semanas.
El NCMEC no respondió de inmediato a la solicitud de comentarios de Ars.
Meta busca etiquetar adultos «sospechosos»
En su blog, Davis describió varias otras actualizaciones que Meta hizo para proteger mejor a los adolescentes.
Para los nuevos usuarios menores de 16 años (o 18 en algunos países), Meta establecerá la configuración de privacidad predeterminada para evitar que extraños vean su lista de amigos, las páginas que siguen o las publicaciones en las que están etiquetados. Los adolescentes también tendrán configuraciones predeterminadas limitar quién puede comentar sus publicaciones y pedirles que revisen las publicaciones en las que están etiquetados antes de que esas publicaciones aparezcan en sus páginas. Para todos los adolescentes que ya están en las plataformas, Meta dijo que enviaría notificaciones recomendándoles que actualicen su configuración de privacidad.
Sin embargo, quizás la mayor precaución que Meta está probando ahora es un paso para marcar a los usuarios adultos que se cree que acosan a los usuarios adolescentes como cuentas «sospechosas».
“Una cuenta ‘sospechosa’ es aquella que pertenece a un adulto que puede haber sido bloqueada o denunciada recientemente por un joven, por ejemplo”, escribió Davis.
Para averiguar quién es «sospechoso», Meta planea confiar en los informes de los usuarios adolescentes. Cuando un usuario adolescente bloquea una cuenta, el usuario adolescente también recibirá una notificación para informar la cuenta a Meta para informarles «si algo los hace sentir incómodos mientras usan nuestras aplicaciones». Para identificar a más usuarios sospechosos, Meta dijo que revisaría todos los bloqueos por parte de los adolescentes, independientemente de que presenten un informe.
Cualquier cuenta marcada como sospechosa no se mostrará en las recomendaciones de Personas que quizás conozcas de los usuarios adolescentes. Davis dijo que Meta también está considerando si debe o no eliminar el botón de mensaje por completo cuando una cuenta «sospechosa» ve el perfil de un usuario adolescente.
Incluso este es un sistema imperfecto, por supuesto. El principal defecto de la solución de Meta aquí es que marcar a los usuarios «sospechosos» solo ocurrirá después de que algunos adolescentes ya hayan sido acosados.