Imágenes sexualmente explícitas de Taylor Swift generadas por IA han estado circulando en X (anteriormente Twitter) durante el último día en el último ejemplo de proliferación de Pornografía falsa generada por IA y el desafío de evitar que se propague.
Uno de los ejemplos más destacados en X atrajo más de 45 millones de visitas, 24.000 reenvíos y cientos de miles de me gusta y marcadores antes de que se suspendiera la cuenta del usuario verificado que compartió las imágenes por violar la política de la plataforma. La publicación estuvo publicada en la plataforma durante aproximadamente 17 horas antes de su eliminación.
Pero cuando los usuarios comenzaron a discutir la publicación viral, las imágenes comenzaron a difundirse y se volvieron a publicar en otras cuentas. Muchos siguen despiertos y Desde entonces ha aparecido una avalancha de nuevas falsificaciones gráficas. En algunas regiones, el término «Taylor Swift AI» se convirtió en un tema de tendencia, promocionando las imágenes a un público más amplio.
Los fanáticos de Swift envían spam a la plataforma para encubrir las falsificaciones explícitas.
La base de fans de Swift ha criticado a X por permitir que muchas de las publicaciones permanezcan activas durante tanto tiempo. En respuesta, los fanáticos han respondido inundando los hashtags utilizados para hacer circular las imágenes con mensajes que, en cambio, promueven clips reales de Swift actuando para ocultar las falsificaciones explícitas.
El incidente habla del desafío muy real de detener la pornografía deepfake y las imágenes de personas reales generadas por IA. Algunos generadores de imágenes de IA tienen restricciones que prevenir imágenes desnudas, pornográficas y fotorrealistas de celebridades de ser producidos, pero muchos otros no ofrecen explícitamente tal servicio. La responsabilidad de evitar que se difundan imágenes falsas a menudo recae en las plataformas sociales, algo que puede ser difícil de hacer en las mejores circunstancias y aún más difícil para una empresa como X que ha agotado sus capacidades de moderación.
Actualmente, la UE está investigando a la empresa por afirmaciones de que está siendo utilizada para “difundir contenidos ilegales y desinformación” y, según se informa, está siendo cuestionado sobre sus protocolos de crisis después de que se descubrió que se promovía información errónea sobre la guerra entre Israel y Hamas en toda la plataforma.