La pornografía deepfake no consensuada de Taylor Swift se volvió viral en X esta semana, con una publicación que obtuvo más de 45 millones de visitas, 24.000 reenvíos y cientos de miles de «me gusta» antes de ser eliminada.
La estrella del pop tiene una de las bases de fans más dedicadas, extremadamente en línea e incomprensiblemente masivas del mundo. Ahora, los Swifties están sedientos de sangre.
Cuando los megafandoms se organizan, son capaces de hacer cosas inmensas, como cuando los fanáticos del K-pop reservaron cientos de entradas para un mitin de Donald Trump en un intento de reducir el número de asistencia. A medida que se acercan las elecciones presidenciales estadounidenses de 2024, algunos expertos incluso han teorizado sobre el poder de los Swifties como bloque de votantes.
Pero hoy no es día de elecciones y los Swifties se centran en algo más inmediato: hacer que los deepfakes no consensuados del músico sean lo más difíciles de encontrar. Ahora, cuando buscas términos como “taylor swift ai” o “taylor swift deepfake” en X, encontrarás miles de publicaciones de fanáticos que intentan enterrar el contenido generado por IA. En X, la frase “PROTECT TAYLOR SWIFT” ha sido tendencia con más de 36.000 publicaciones.
A veces, estas campañas impulsadas por fans pueden cruzar la línea. Mientras que algunos fanáticos se alientan entre sí a engañar a los usuarios de X que hicieron circular los deepfakes, a otros les preocupa combatir el acoso con más acoso, especialmente cuando el presunto perpetrador tiene un nombre relativamente común y, en algunos casos, los Swifties podrían estar persiguiendo al equivocado. chico. Con tantos miles de fanáticos participando en la causa, es inevitable que no todos los Swiftie formen parte del mismo frente unificado, y algunos están más en contacto con la era de la “Reputación” que otros.
Con el auge de las herramientas de IA generativa accesibles, esta táctica de acoso se ha generalizado tanto que el año pasado, el FBI y las autoridades internacionales emitieron una declaración conjunta sobre la amenaza de la sextorsión. Según una investigación de la empresa de ciberseguridad Deeptrace, alrededor del 96% de los deepfakes son pornográficos y casi siempre presentan mujeres.
«La pornografía deepfake es un fenómeno que apunta y daña exclusivamente a las mujeres», se lee en el informe. Este abuso se ha filtrado incluso en las escuelas, donde sus compañeros de clase han atacado a niñas menores de edad con deepfakes explícitos y no consensuados. Entonces, para algunos fanáticos de Taylor Swift, esto no es solo una cuestión de proteger a la estrella. Se dan cuenta de que estos ataques le pueden pasar a cualquiera de ellos, no sólo a los famosos, y que tienen que luchar para sentar el precedente de que este comportamiento es intolerable.
“Ella está recibiendo el golpe por nosotros en este momento”, dijo una usuaria de TikTok llamada LeAnn en un video instando a los usuarios a defender a Swift. «Al protegerla, te protegerás a ti mismo y a tus hijas».
Según 404 Media, las imágenes se originaron en un chat de Telegram que se dedica a crear imágenes explícitas y no consensuadas de mujeres utilizando IA generativa. El grupo dirige a sus usuarios a generar deepfakes de IA en el Diseñador de Microsoft; Aunque este tipo de contenido viola la política de Microsoft, su IA aún es capaz de crearlo y los usuarios han creado soluciones simples para eludir las herramientas de seguridad básicas.
Microsoft y X no respondieron a una solicitud de comentarios antes de la publicación.
El Congreso está logrando algunos avances legislativos para criminalizar los deepfakes no consensuados. Virginia ha prohibido el porno de venganza deepfake y la representante Yvette Clarke (D-NY) reintrodujo recientemente la Ley de Responsabilidad DEEPFAKES, que propuso por primera vez en 2019. Si bien los críticos se preocupan por la dificultad de legislar los rincones oscuros de la web, algunos dicen que el proyecto de ley podría al menos establecer algún precedente legal de protección contra este abuso. Los fanáticos de Swift también llamaron la atención sobre los fracasos de Ticketmaster, la megaempresa de entretenimiento que también es propietaria de Live Nation. En una declaración particularmente memorable, la presidenta de la FTC, Lina Khan, dijo el año pasado que la desastrosa experiencia de comprar entradas para la gira Eras de Swift “terminó convirtiendo a más miembros de la generación Z en antimonopolistas de la noche a la mañana más que cualquier cosa que yo hubiera podido hacer”.
Esta campaña de abuso es emblemática de los problemas con el pronunciado ascenso de la IA: las empresas están construyendo demasiado rápido para evaluar adecuadamente los riesgos de los productos que envían. Entonces, tal vez los fanáticos de Taylor Swift emprendan la lucha por una regulación cuidadosa de los productos de IA de rápido desarrollo, pero si se necesita una campaña de acoso masivo contra una celebridad por modelos de IA poco probados para enfrentar cualquier tipo de escrutinio, entonces ese es un problema completamente diferente.