Después de que imágenes explícitas y falsas de IA de Taylor Swift comenzaron a difundirse en X, la plataforma anteriormente conocida como Twitter intentó bloquear todas las búsquedas de la estrella del pop.
«Esta es una acción temporal y se hace con mucha precaución, ya que priorizamos la seguridad en este tema», dijo Joe Benarroch, jefe de operaciones comerciales de X, en un comunicado a Reuters.
Sin embargo, incluso esta medida drástica no parece ser una solución efectiva, ya que «Swift» fue tendencia el lunes por la mañana en X. El bloqueo temporal tampoco hace nada para detener las búsquedas que utilizan errores ortográficos en el nombre del cantante.
X no respondió de inmediato a la solicitud de Ars de hacer comentarios.
Las imágenes dañinas aparecieron por primera vez la semana pasada en X después de filtrarse de un canal tóxico de Telegram donde los usuarios discutían formas de usar herramientas populares de inteligencia artificial como Microsoft Designer para generar imágenes íntimas no consensuadas de celebridades, encontró 404 Media. Al igual que las soluciones de búsqueda de X, se utilizaron errores ortográficos y trucos de palabras clave para evadir los filtros de contenido de Designer. Ars también encontró un hilo de Reddit donde los usuarios discutían sobre el uso de Designer para generar imágenes sexualizadas de «pintura corporal» muy similares a algunas de las imágenes de AI Swift que se volvieron virales.
La semana pasada, Microsoft le dijo a Ars que estaba investigando, pero hasta ahora, la compañía no ha confirmado los informes de que se utilizó Designer para generar las imágenes de Swift. Sin embargo, eso no ha impedido que Microsoft también tome medidas drásticas y tome medidas enérgicas contra los filtros de contenido de Designer.
Según 404 Media, los usuarios de Telegram y 4chan se sintieron decepcionados al descubrir esta semana que Microsoft introdujo más medidas de seguridad en Designer, aparentemente bloqueando la cara de cualquier celebridad para que la herramienta no genere. Ahora, las palabras clave que antes funcionaban para generar imágenes de estrellas como Ariana Grande o Zendaya ahora solo muestran «chicas genéricas» con apariencia similar, dijeron los usuarios, quejándose de que «Microsoft Designer recibió un gran parche» y es «casi como si no generara celebridades». ya no.»
El martes, el director ejecutivo de Microsoft, Satya Nadella, aparecerá en Noticias nocturnas de NBC para discutir el papel que sus herramientas pueden haber jugado en la generación de pornografía con IA de Swift. Millones de personas vieron algunas de estas imágenes antes de que comenzara la eliminación de contenido, y una de las imágenes más compartidas recibió 47 millones de visitas, informó The New York Times.
Ars recibió una transcripción de la próxima transmisión de NBC, donde Nadella confirmará que Microsoft planea «actuar rápido» para reducir los daños de las herramientas de inteligencia artificial como Designer y Bing, que pueden usarse para generar imágenes de cualquier cosa que los usuarios puedan imaginar a través de mensajes de texto.
«Creo que, en primer lugar, esto es absolutamente alarmante y terrible, por lo que sí, tenemos que actuar», dijo Nadella a NBC.
Nadella dijo que «hay mucho por hacer y mucho por hacer» en Microsoft para colocar barreras alrededor de las tecnologías de inteligencia artificial para evitar resultados dañinos, pero lo que también se necesita es una «convergencia sobre ciertas normas» global y social, como si todos llegaran a un consenso. que las imágenes de IA no consensuadas son dañinas. Actualmente, no todas las plataformas están de acuerdo con eso. Junto con las fuerzas del orden, las plataformas «pueden gobernar mucho más de lo que pensamos», dijo Nadella a NBC.