Meta aborda el porno de venganza y la sextorsión con la plataforma ‘Take It Down’

Meta tiene como objetivo ayudar a los jóvenes a evitar que sus imágenes íntimas se difundan en línea sin su consentimiento con una nueva plataforma denominada Take It Down.(Se abre en una nueva ventana).

El sitio sigue el modelo de un servicio similar para adultos llamado StopNCII.(Se abre en una nueva ventana). Está construido en asociación con el Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) y financiado por Meta.

«Perder el control de tus imágenes de desnudos en línea es aterrador, y si eres un adolescente puede parecer imposible revertirlo», dice un video promocional de Take It Down incluido en el anuncio de Meta.(Se abre en una nueva ventana). «Si bien no puede retroceder en el tiempo y cancelar el envío, podemos ayudarlo a seguir adelante».

La iniciativa es parte de los esfuerzos de Meta para frenar la «pornografía de venganza», o cuando alguien publica imágenes explícitas de otra persona sin su consentimiento para avergonzarla o intimidarla. También ayudará a prevenir la «sextorsión», o cuando alguien usa imágenes en línea como una amenaza para obtener más imágenes, favores sexuales o dinero, dice Meta.

«Este problema ha sido increíblemente importante para Meta durante mucho, mucho tiempo porque el daño causado es bastante grave en el contexto de adolescentes o adultos», dijo en una entrevista Antigone Davis, directora de seguridad global de Meta.(Se abre en una nueva ventana) con CBS. «Puede dañar su reputación y sus relaciones familiares, y los coloca en una posición muy vulnerable. Es importante que encontremos herramientas como esta para ayudarlos a recuperar el control de lo que puede ser una situación muy difícil y devastadora».

Para usar Take It Down, los jóvenes menores de 18 años, o los padres y adultos de confianza en su nombre, pueden enviar un caso en el sitio. El hecho de que los usuarios inicien el proceso es una diferencia crítica entre el esfuerzo fallido de Apple para escanear las cargas de iCloud en busca de imágenes de abuso sexual infantil, que la compañía implementó en 2021 y luego detuvo un año después de ser calificado como un riesgo de seguridad.

Como parte de un proceso de tres pasos, los usuarios seleccionan las imágenes o el video en cuestión, pero el sitio no los almacenará como una carga típica. En cambio, Take It Down asigna a cada uno un código numérico único llamado «hash».

(Crédito: Take It Down)

«Take It Down funciona mediante la asignación de una huella digital única, llamada valor hash, a imágenes o videos desnudos, parcialmente desnudos o sexualmente explícitos de personas menores de 18 años», dice el sitio. «Todo esto sucede sin que la imagen o el video salgan de su dispositivo o de que alguien lo vea. Solo se proporcionará el valor hash al NCMEC».

Con el hash, el sistema puede ubicar el contenido en las «aplicaciones participantes», eliminarlo (según el nombre del sitio) y evitar que se vuelva a publicar. Esas aplicaciones incluyen Facebook e Instagram, al menos para empezar, aunque Meta dice que está trabajando con NCMEC para promover el servicio para que otras aplicaciones también puedan integrarlo.

Meta ha tomado varias medidas a lo largo de los años para limitar las interacciones de los adolescentes con lo que considera «adultos sospechosos». Eso incluye prohibir que los adultos envíen mensajes a usuarios menores de 18 años en Instagram, a menos que esos adolescentes los sigan y asignarles a los niños menores de 16 años una cuenta privada cuando se registren. Aquellos identificados como sospechosos tendrán acceso limitado a las cuentas de los adolescentes y los adolescentes recibirán notificaciones cuando los adultos sospechosos los sigan, comenten su publicación, los etiqueten o vuelvan a publicar su contenido.

Instagram identifica a los usuarios sospechosos y pregunta a los menores «¿Conoces a esta persona?» cuando interactúan con su perfil. (Crédito: Meta)

(Crédito: Meta)