El virus generado por IA Las imágenes del arresto de Donald Trump que puede estar viendo en las redes sociales son definitivamente falsas. Pero algunas de estas creaciones fotorrealistas son bastante convincentes. Otros parecen más fotogramas de un videojuego o de un sueño lúcido. A Hilo de Twitter por Eliot Higgins, uno de los fundadores de Bellingcat, que muestra a Trump siendo invadido por policías sintéticoscorriendo alrededor a la fugay eligiendo un mono de prisión fue visto más de 3 millones de veces en la plataforma de redes sociales.
¿Qué cree Higgins que pueden hacer los espectadores para diferenciar entre imágenes falsas de IA, como las de su publicación, y fotografías reales que pueden surgir del posible arresto del expresidente?
“Después de haber creado muchas imágenes para el hilo, es evidente que a menudo se enfoca en el primer objeto describió, en este caso, a los diversos miembros de la familia Trump, y todo a su alrededor a menudo tiene más fallas”, dice Higgins por correo electrónico. Mire fuera del punto focal de la imagen, ¿el resto de la imagen parece ser una ocurrencia tardía?
Aunque las versiones más recientes de las herramientas de imagen de IA, como Midjourney (la versión 5 se usó para el hilo mencionado anteriormente) y Stable Diffusion, están logrando un progreso considerable, los errores en los detalles más pequeños siguen siendo un signo común de imágenes falsas. A medida que el arte de la IA crece en popularidad, muchos artistas señalan que los algoritmos aún luchan por replicar el cuerpo humano de manera consistente y natural.
Mirando las imágenes de IA de Trump del hilo de Twitter, la cara parece bastante convincente en muchas de las publicaciones, así como las manos, pero su las proporciones del cuerpo pueden parecer contorsionadas o se fundió con un oficial de policía cercano. Aunque es obvio por ahora, es posible que el algoritmo pueda evitar partes del cuerpo de aspecto peculiar con más entrenamiento y refinamiento futuro.
¿Necesitas otro aviso? Busque escritura extraña en las paredes, ropa u otros elementos visibles. Higgins apunta hacia texto desordenado como una forma de diferenciar las imágenes falsas de las fotos reales. Por ejemplo, los policías usan insignias, gorras y otros documentos que parecen tener letras, a primera vista, en las imágenes falsas de los oficiales que arrestan a Trump. Tras una inspección más cercana, las palabras no tienen sentido.
Una forma adicional en la que a veces puede saber que una imagen es generada por IA es notando Expresiones faciales exageradas. “También he notado que si pides expresiones, Midjourney tiende a representarlas de una manera exagerada, con arrugas en la piel muy pronunciadas por cosas como sonreír”, escribe Higgins. La expresión de dolor en el rostro de Melania Trump parece más una recreación de la de Edvard Munch. El grito o un fotograma de una película de terror A24 inédita que una instantánea de un fotógrafo humano.
Tenga en cuenta que los líderes mundiales, las celebridades, las personas influyentes en las redes sociales y cualquier persona con una gran cantidad de fotos que circulan en línea pueden parecer más convincentes en las fotos falsificadas que en las imágenes generadas por IA de personas con una presencia menos visible en Internet. Higgins escribe: «Está claro que cuanto más famosa es una persona, más imágenes ha tenido que aprender la IA, por lo que las personas famosas se representan extremadamente bien, mientras que las personas menos famosas suelen ser un poco raras”. Para mayor tranquilidad acerca de la capacidad del algoritmo para recrear su rostro, podría valer la pena pensarlo dos veces antes de publicar un volcado de fotos de selfies después de una noche divertida con amigos. (Aunque, es probable que los generadores de IA ya hayan extraído los datos de su imagen de la web).
En el período previo a las próximas elecciones presidenciales en Estados Unidos, ¿cuál es la política de Twitter sobre las imágenes generadas por IA? La plataforma de redes sociales la política actual dice, en parte, «No puede compartir medios sintéticos, manipulados o fuera de contexto que puedan engañar o confundir a las personas y provocar daños (‘medios engañosos’)». Twitter crea múltiples excepciones para memes, comentarios y publicaciones no creadas con la intención de engañar a los espectadores.
Hace solo unos años, era casi inconcebible que la persona promedio pronto pudiera fabricar falsificaciones fotorrealistas de líderes mundiales en casa. A medida que las imágenes de IA se vuelven más difíciles de diferenciar de las reales, es posible que las plataformas de redes sociales deban reevaluar su enfoque del contenido sintético e intentar encontrar formas de guiar a los usuarios a través del complejo y, a menudo, inquietante mundo de la IA generativa.