X ha confirmado que está impidiendo que los usuarios busquen el nombre de Taylor Swift después de que los deepfakes pornográficos de la artista comenzaran a circular en la plataforma esta semana. Los visitantes del sitio comenzaron a notar el sábado que algunas búsquedas que contenían el nombre de Swift solo arrojaban un mensaje de error. En una declaración a la Wall Street Journal El sábado por la noche, Joe Benarroch, jefe de operaciones comerciales de X, dijo: «Esta es una acción temporal y se hace con mucha precaución, ya que priorizamos la seguridad en este tema». Este paso se produce días después de que se conociera el problema por primera vez.
El manejo del tema por parte de X desde el principio ha generado críticas por haber tardado en frenar la difusión de imágenes sexualmente explícitas y no consensuadas. Después de que las imágenes se volvieran virales el miércoles, los fans de Swift tomaron cartas en el asunto para limitar su visibilidad y eliminarlas, denunciando masivamente las cuentas que compartían las imágenes e inundando los hashtags relacionados con la cantante con contenido positivo. Noticias NBC informó a principios de esta semana. Muchas de las cuentas infractoras fueron suspendidas posteriormente, pero no antes de que en algunos casos fueran vistas millones de veces. El borde informó el jueves que una publicación fue vista más de 45 millones de veces.
En una declaración publicada en su plataforma ese mismo día, X dijo: “Publicar imágenes de desnudos no consensuales (NCN) está estrictamente prohibido en X y tenemos una política de tolerancia cero hacia dicho contenido. Nuestros equipos están eliminando activamente todas las imágenes identificadas y tomando las medidas adecuadas contra las cuentas responsables de publicarlas. Estamos monitoreando de cerca la situación para garantizar que cualquier otra infracción se aborde de inmediato y que el contenido se elimine. Estamos comprometidos a mantener un entorno seguro y respetuoso para todos los usuarios”.
Pero aún fue posible encontrar las imágenes días después. 404Medios rastreó el origen probable de las imágenes hasta un grupo de Telegram conocido por crear imágenes de mujeres no consensuadas generadas por IA utilizando herramientas gratuitas como Microsoft Designer. En una entrevista con Noticias NBC Lester Holt, el viernes, el director ejecutivo de Microsoft, Satya Nadella, dijo que el problema resalta cuál es la responsabilidad de la compañía y «todas las barreras que necesitamos colocar alrededor de la tecnología para que se produzca más contenido seguro». Continuó diciendo que «hay mucho por hacer allí y mucho por hacer allí», pero también señaló que la empresa necesita «actuar rápido».