Durante el fin de semana, una imagen generada por IA del Papa Francisco con una bata blanca hinchada se volvió viral en Twitter, y al parecer mucha gente creyó que era una imagen real. Desde entonces, el pontífice hinchado ha inspirado comentarios sobre la naturaleza engañosa de las imágenes generadas por IA, que ahora son casi fotorrealistas.
La imagen del Papa, creada con Midjourney v5 (un modelo de síntesis de imágenes de IA), apareció por primera vez en un tweet por un usuario llamado Leon (@skyferrori) el sábado y rápidamente comenzó a circular como parte de otros tweets de memes con imágenes similares, incluido uno que especula con humor sobre una «marca de estilo de vida» del Papa.
No mucho después, Twitter adjuntó una advertencia de contexto agregado por el lector al tuit que dice: «Esta es una imagen generada por IA del Papa Francisco. No es una foto genuina.«
Como se señaló en nuestro artículo sobre las fotos de arresto de Donald Trump generadas por inteligencia artificial de la semana pasada, las pautas de Twitter establecen que los usuarios «no pueden compartir engañosamente medios sintéticos o manipulados que puedan causar daño». Aunque en este caso, la línea entre el daño y la parodia puede ser confusa.
¿Cómo sabemos que la imagen es falsa? Aparte de una publicación de Reddit que contiene imágenes alternativas del Papa de la persona que probablemente las hizo, The Verge desglosa la evidencia bastante bien en un artículo que analiza el impacto de la imagen falsa. Por ejemplo, si amplía los detalles, verá signos reveladores de síntesis de imágenes en detalles distorsionados como el collar del crucifijo del Papa, la sombra torcida de sus anteojos y lo que sea que lleve en la mano (¿una copa?).
Pero aun así, con un vistazo rápido, la foto falsa («fauxto»?) parece bastante realista. Y como señala The Verge, una imagen elegante del Papa Francisco juega con nuestras creencias sobre el papado, que a menudo involucra imágenes salvajes que no son falsas, aunque el Papa Francisco es conocido por sus atuendos «humildes».
Un viaje a mitad de camino
El servicio de imágenes utilizado para crear la foto falsa, Midjourney, debutó el año pasado. Junto con DALL-E y Stable Diffusion, es uno de los tres principales modelos de síntesis de imágenes que se han vuelto populares en línea. Los tres permiten a los usuarios generar imágenes novedosas usando solo descripciones de texto llamadas «indicaciones».
a mitad de camino
En este caso, el mensaje utilizado para crear la foto del papa hinchado podría haber sido tan simple como «Papa Francisco con una bata blanca hinchada» porque Midjourney ha hecho grandes avances en el fotorrealismo recientemente, representando escenas complejas llenas de detalles a partir de mensajes relativamente simples.
Lo que significa esta capacidad casi sin esfuerzo para falsificar fotos para el futuro de los medios aún es incierto, pero como hemos especulado antes, debido a la síntesis de imágenes, es posible que nunca podamos volver a creer lo que vemos en línea.