Cada método se utiliza como arma (casi siempre contra las mujeres) para degradar, acosar o causar vergüenza, entre otros daños. Julie Inman Grant, comisionada de seguridad electrónica de Australia, dice que su oficina está comenzando a ver más deepfakes reportados en su esquema de quejas de abuso basado en imágenes, junto con otros contenidos generados por IA, como abuso sexual infantil «sintético» y niños que usan aplicaciones para crear Vídeos sexualizados de sus compañeros de clase. «Sabemos que es una forma de abuso que en realidad no se denuncia», dice Grant.
A medida que ha aumentado la cantidad de videos en sitios web deepfake, los creadores de contenido, como transmisores y modelos adultos, han utilizado solicitudes DMCA. La DMCA permite a las personas que poseen la propiedad intelectual de cierto contenido solicitar que se elimine de los sitios web directamente o de los resultados de búsqueda. Se han realizado a Google más de 8 mil millones de solicitudes de eliminación, que abarcan desde juegos hasta música.
«Históricamente, la DMCA ha sido una forma importante para que las víctimas de abuso sexual basado en imágenes eliminen su contenido de Internet», dice Carrie Goldberg, abogada de derechos de las víctimas. Goldberg dice que las nuevas leyes penales y procedimientos de derecho civil facilitan la eliminación de algunos abusos sexuales basados en imágenes, pero los deepfakes complican la situación. «Si bien las plataformas tienden a no sentir empatía por las víctimas de violaciones de la privacidad, sí respetan las leyes de derechos de autor», dice Goldberg.
El análisis de WIRED de sitios web deepfake, que cubrió 14 sitios, muestra que Google ha recibido solicitudes de eliminación de DMCA sobre todos ellos en los últimos años. Muchos de los sitios web albergan únicamente contenido deepfake y, a menudo, se centran en celebridades. Los propios sitios web incluyen formularios de contacto DMCA donde las personas pueden solicitar directamente que se elimine el contenido, aunque no publican ninguna estadística y no está claro qué tan efectivos son para responder a las quejas. Un sitio web dice que contiene vídeos de “actrices, YouTubers, streamers, personajes de televisión y otros tipos de figuras públicas y celebridades”. Alberga cientos de vídeos con «Taylor Swift» en el título del vídeo.
La gran mayoría de las solicitudes de eliminación de DMCA vinculadas a sitios web deepfake que figuran en los datos de Google se relacionan con dos de los sitios más grandes. Ninguno respondió a las preguntas escritas enviadas por WIRED. La mayoría de los 14 sitios web tuvieron más del 80 por ciento de las quejas que llevaron a que Google eliminara el contenido. Algunas solicitudes de eliminación por derechos de autor enviadas por personas indican la angustia que pueden causar los videos. “Se hace para degradarme e intimidarme”, dice una solicitud. «Me tomo esto muy en serio y haré todo lo posible para eliminarlo», dice otro.
«Tiene un impacto enorme en la vida de alguien», dice Yvette van Bekkum, directora ejecutiva de Orange Warriors, una empresa que ayuda a las personas a eliminar imágenes filtradas, robadas o compartidas sin consentimiento en línea, incluso a través de solicitudes de DMCA. Van Bekkum dice que la organización está viendo un aumento en el contenido deepfake en línea, y las víctimas enfrentan obstáculos para presentarse y pedir que se elimine su contenido. «Imagínese pasar por un proceso de contratación y que la gente busque su nombre en Google y encuentre ese tipo de contenido explícito», dice van Bekkum.
El portavoz de Google, Ned Adriance, dice que su proceso DMCA permite a los “titulares de derechos” proteger su trabajo en línea y que la compañía tiene herramientas separadas para lidiar con deepfakes, incluido un formulario y un proceso de eliminación separados. «Tenemos políticas para la pornografía deepfake no consensuada, por lo que las personas pueden eliminar este tipo de contenido que incluye su imagen de los resultados de búsqueda», dice Adriance. «Y estamos desarrollando activamente salvaguardas adicionales para ayudar a las personas afectadas». Google dice que cuando recibe un gran volumen de eliminaciones de derechos de autor válidas sobre un sitio web, las utiliza como señal de que es posible que el sitio no esté proporcionando contenido de alta calidad. La compañía también dice que ha creado un sistema para eliminar duplicados de pornografía deepfake no consensuada una vez que ha eliminado una copia, y que recientemente actualizó sus resultados de búsqueda para limitar la visibilidad de los deepfakes cuando las personas no los buscan.