El Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) ha anunciado una nueva plataforma diseñado para ayudar a eliminar imágenes sexualmente explícitas de menores de Internet. Meta reveló en una entrada de blog que había proporcionado financiación inicial para crear el La herramienta gratuita «Take It Down» del NCMECque permite a los usuarios informar y eliminar de forma anónima «imágenes o videos desnudos, parcialmente desnudos o sexualmente explícitos» de personas menores de edad que se encuentran en las plataformas participantes y bloquear el contenido ofensivo para que no se vuelva a compartir.
Facebook e Instagram se han registrado para integrar la plataforma, al igual que OnlyFans, Pornhub y Yubo. Take It Down está diseñado para que los menores autoinformen imágenes y videos de sí mismos; sin embargo, los adultos que aparecieron en dicho contenido cuando tenían menos de 18 años también pueden usar el servicio para denunciarlo y eliminarlo. Los padres u otros adultos de confianza también pueden hacer un informe en nombre de un niño.
Un Preguntas frecuentes sobre Take It Down establece que los usuarios deben tener la imagen o video reportado en su dispositivo para usar el servicio. Este contenido no se envía como parte del proceso de denuncia y, como tal, permanece privado. En cambio, el contenido se usa para generar un valor hash, una huella digital única asignada a cada imagen y video que luego se puede proporcionar a las plataformas participantes para detectarlo y eliminarlo en sus sitios web y aplicaciones, mientras se minimiza la cantidad de personas que ven el contenido real.
“Creamos este sistema porque muchos niños enfrentan estas situaciones desesperadas”, dijo Michelle DeLaune, presidenta y directora ejecutiva de NCMEC. “Nuestra esperanza es que los niños conozcan este servicio y se sientan aliviados de que existan herramientas para ayudar a eliminar las imágenes. El NCMEC está aquí para ayudar”.
El servicio Take It Down es comparable a DetenerNCIIun servicio lanzado en 2021 que tiene como objetivo evitar que personas mayores de 18 años compartan imágenes sin consentimiento. De manera similar, StopNCII usa valores hash para detectar y eliminar contenido explícito en Facebook, Instagram, TikTok y Bumble.
Meta se burló de la nueva plataforma en noviembre pasado junto con el lanzamiento de nuevas funciones de privacidad para Instagram y Facebook.
Además de anunciando su colaboración con NCMEC en noviembre del año pasadoMeta lanzado nuevas funciones de privacidad para Instagram y Facebook que tienen por objeto proteger a los menores que utilizan las plataformas. Estos incluyen solicitar a los adolescentes que denuncien las cuentas después de bloquear a adultos sospechosos, eliminar el botón de mensaje en las cuentas de Instagram de los adolescentes cuando las ven adultos con un historial de bloqueo y aplicar configuraciones de privacidad más estrictas de forma predeterminada para los usuarios de Facebook menores de 16 años (o 18 en ciertos países).
Otras plataformas que participan en el programa han tomado medidas para prevenir y eliminar contenido explícito que representa a menores. Yubo, una aplicación de red social francesa, ha implementado una gama de IA y herramientas de moderación operadas por humanos que puede detectar material sexual que representa a menores, mientras que Pornhub permite a las personas emitir directamente una solicitud de eliminación por contenidos ilegales o no consentidos publicados en su plataforma.
Todas las plataformas participantes han sido criticadas anteriormente por no proteger a los menores de la explotación sexual.
Las cinco plataformas participantes han sido criticadas anteriormente por no proteger a los menores de la explotación sexual. A noticias de la BBC informe de 2021 encontrado los niños podrían eludir fácilmente los sistemas de verificación de edad de OnlyFansmientras que Pornhub fue demandado por 34 víctimas de explotación sexual el mismo año, alegando que el sitio se benefició deliberadamente de videos que mostraban violaciones, explotación sexual infantil, tráfico y otro contenido sexual no consensuado. Yubo — descrito como «Tinder para adolescentes», ha sido utilizado por depredadores para contactar y violar a usuarios menores de edady el NCMEC estimado el año pasado que el plan de Meta para aplicar el cifrado de extremo a extremo a sus plataformas podría ocultar efectivamente el 70 por ciento del material de abuso sexual infantil actualmente detectado e informado en su plataforma.
“Cuando las empresas de tecnología implementan el cifrado de extremo a extremo, sin medidas preventivas integradas para detectar material conocido de abuso sexual infantil, el impacto en la seguridad de los niños es devastador”. dijo DeLaune al Comité Judicial del Senado a principios de este mes.
A presione soltar for Take It Down menciona que las plataformas participantes pueden usar los valores hash proporcionados para detectar y eliminar imágenes en «sitios y aplicaciones públicos o sin cifrar», pero no está claro si esto se extiende al uso de meta de cifrado de extremo a extremo en todos los servicios. como Mensajero. Nos comunicamos con Meta para confirmar y actualizaremos esta historia si recibimos una respuesta.