Mientras el mundo espera para ver si el expresidente Donald Trump será acusado formalmente hoy por los pagos de dinero secreto a la estrella porno Stormy Daniels, Imágenes generadas por IA comenzaron a circular en Twitter imaginando cómo sería ese arresto. Mostrando a Trump resistiéndose al arresto y siendo arrastrado por la policía, las fotos realistas pero muy falsas ya han sido vistas por millones.
“Hacer fotos de Trump siendo arrestado mientras espera el arresto de Trump” tuiteó Eliot Higginsquien es el fundador y director creativo de Bellingcat, un colectivo internacional independiente de investigadores, investigadores y periodistas ciudadanos.
en un tuitHiggins confirmó que usó el impresionante motor de IA Midjourney v5 para generar las imágenes falsas.
Ars no pudo comunicarse de inmediato con Higgins para comentar sobre las imágenes, algunas de las cuales se han visto 2,2 millones de veces en Twitter hasta el momento de escribir este artículo.
Directrices de Twitter dicen que los usuarios “no pueden compartir engañosamente medios sintéticos o manipulados que puedan causar daño” y sugieren que, como mínimo, las imágenes pronto pueden etiquetarse para “ayudar a las personas a comprender su autenticidad y proporcionar un contexto adicional”. Ars se acercó a Twitter para comentar sobre las imágenes, pero, como El CEO Elon Musk tuiteó la compañía lo haría hace días: Twitter solo respondió con un emoji de caca.
El hecho de que Twitter no etiquetara las imágenes generadas por IA algo convincentes podría causar daño, ya que The Guardian informó que ha habido un aumento significativo en las amenazas en línea desde que comenzó a difundirse la noticia de la posible acusación de Trump. AP News informó que Nueva York ya se está preparando para posibles disturbios si ocurre un arresto, y algunos usuarios han comentado que las imágenes de Higgins fueron lo suficientemente convincentes como para engañarlos.
Legit pensó que estos eran reales.
— Chris Jancelewicz (@CJancelewicz) 20 de marzo de 2023
Realmente deberíamos poner marcas de agua en estos que revelen que son generados por IA y no reales.
— Matt Karolian (@mkarolian) 20 de marzo de 2023
Al menos un usuario de Twitter sugirió que Higgins debería haber puesto una marca de agua en la imagen para eliminar cualquier posible confusión. Pero si Higgins tenía el deber de hacerlo sigue siendo una de esas preguntas aún sin respuesta que se arremolinan en línea a medida que el contenido generado por IA se vuelve cada vez más popular, creando un futuro potencial en el que los usuarios de Internet tal vez no puedan creer nada de lo que ven en línea.
No se pudo contactar de inmediato a Midjourney para confirmar si las imágenes de Higgins violan sus términos de servicio, que incluyen pautas de la comunidad que prohíben «imágenes o mensajes de texto que son inherentemente irrespetuosos, agresivos o abusivos». [Update: Midjourney allegedly banned Higgins on Wednesday.]
“No se tolerará la violencia o el acoso de ningún tipo”, dicen las pautas.
Las plataformas de redes sociales están comenzando a establecer reglas básicas para el contenido generado por IA, y al menos algunas han hecho que los usuarios tengan la responsabilidad de etiquetar dicho contenido. TikTok es la plataforma más reciente que requiere que todas las falsificaciones profundas realistas se «divulguen claramente», lo que instó a los usuarios esta semana a comenzar a agregar una «etiqueta o título, como ‘sintético’, ‘falso’, ‘no real’ o ‘alterado'». para evitar confusiones.
Cualquiera que haga clic en el hilo de Higgins de imágenes generadas por IA que fingen el arresto de Trump probablemente se dé cuenta de que las imágenes no son reales. No solo muestran a Trump resistiéndose al arresto e incluso huyendo de la policía, sino que también hay imágenes que muestran a Trump aparentemente preparado para enfrentar a un policía y escenas judiciales que muestran a Trump sollozando, lo que aparentemente podría suceder mucho después de cualquier arresto.
Además, podría decirse que Higgins claramente etiquetó las imágenes como falsas en su tweet inicial en el hilo que dice que está «haciendo fotos» y en tweets posteriores que describen las imágenes como «AI Trump world».