Un video de la campaña de Ron DeSantis muestra tres imágenes de Donald Trump abrazando y besando a Anthony Fauci, todas las cuales parecen ser imágenes falsas generadas por inteligencia artificial. Un profesor le dijo a Ars hoy que «no hay duda» de que el anuncio usa imágenes falsas de IA.
Como informó AFP ayer, los expertos forenses de los medios dicen que las imágenes, que el anuncio de DeSantis hizo pasar como fotografías tomadas durante la presidencia de Trump, tienen signos reveladores de IA. Incluso los no expertos pueden notar rarezas, como un texto incomprensible en un letrero que debería decir «Casa Blanca» y «Washington».
Por supuesto, otro obsequio es que el entonces presidente Trump y Fauci no estaban realmente en términos de abrazos y besos. Trump atacó repetidamente a Fauci y se resistió a las medidas para frenar la propagación de la pandemia de COVID-19. Fauci, que ahora está jubilado, fue durante mucho tiempo director del Instituto Nacional de Alergias y Enfermedades Infecciosas.
Los DeSantis anuncio de vídeo publicado el lunes critica a Trump por no despedir a Fauci. Aproximadamente a la mitad, hay un collage de seis imágenes (visto en la parte superior de este artículo) de Trump y Fauci.
El video fue compartido en Twitter por «DeSantis War Room», que parece haber sido creado por la campaña de DeSantis el año pasado. Christina Pushaw, directora de respuesta rápida de la campaña DeSantis, Anunciado la cuenta de DeSantis War Room en agosto de 2022. Pushaw fue anteriormente secretario de prensa del gobernador de Florida DeSantis antes de ocupar un puesto en su campaña.
«Sin duda en mi mente» que son falsos
«No tengo ninguna duda de que las imágenes superior izquierda e inferior central son falsas», dijo hoy a Ars VS Subrahmanian, investigador de inteligencia artificial y profesor de informática en la Universidad Northwestern. «Como se señaló en el artículo de AFP, la imagen superior izquierda muestra letras incorrectas en la imagen de la Casa Blanca. La imagen inferior central muestra una serie de rayas blancas extrañas entre las estrellas en la bandera de EE. UU.».
Como señalaron algunas personas, el cabello de Trump se ve poco natural en las imágenes. El reportero de inteligencia artificial y aprendizaje automático de Ars Technica, Benj Edwards, me dijo hoy que notó, entre otros problemas, una «falta de detalles en el cabello. Los modelos de síntesis de IA aún son malos para brindar detalles precisos y mejores para obtener cosas generales aproximadamente correctas».
Nos comunicamos con la campaña de DeSantis hoy y actualizaremos este artículo si recibimos una respuesta.
Las tres fotos reales del collage muestran a Trump y Fauci sentados o de pie uno cerca del otro. Una de las imágenes reales se puede encontrar en Getty Images, otra está en el sitio web de los Institutos Nacionales de Salud y la tercera es de Reuters.
Aunque DeSantis está criticando a Trump por no despedir a Fauci, según los informes, el propio DeSantis elogió a Fauci el 25 de marzo de 2020 por «realmente hacer un buen trabajo» en una «situación difícil».
Espere mejores falsificaciones más cerca de las elecciones
Las imágenes falsas en el anuncio de DeSantis fueron relativamente fáciles de detectar, pero con el tiempo será cada vez más difícil detectar las falsificaciones, dijo a Ars James O’Brien, profesor de informática de la Universidad de California en Berkeley.
«El mayor indicio de que son falsos es la calidad de la iluminación en las imágenes», dijo O’Brien. «Es como lo que obtendrías en un estudio de fotografía o producción de video profesional con iluminación controlada, maquillaje y una configuración cuidadosa. Las imágenes reales no tienen esta calidad».
La investigación de O’Brien incluye aprendizaje automático y análisis forense de imágenes y videos. Advirtió que «los sistemas de inteligencia artificial están mejorando muy rápido y espero que a medida que nos acerquemos a las elecciones, habrá imágenes y videos que ni siquiera los expertos pueden distinguir de la realidad».
Mezcla furtiva de imágenes reales y falsas
«Fue astuto mezclar lo que parecen ser fotos auténticas con fotos falsas, pero es casi seguro que estas tres imágenes son generadas por IA», dijo a la AFP el profesor de la Universidad de California, Berkeley, Hany Farid. La investigación de Farid se centra en áreas que incluyen el análisis forense digital, la desinformación, el análisis de imágenes y la percepción humana. Los problemas en la imagen inferior derecha incluyen «diferencias en la forma de la oreja de Trump en comparación con las fotos de archivo», dijo Farid.
Las tres imágenes sospechosas «contienen muchos signos que indican que fueron generadas por IA», dijo a la AFP Matthew Stamm, profesor de la Universidad de Drexel y experto en la detección de imágenes y videos falsificados.
«Por ejemplo, si observa detenidamente el cabello de Donald Trump en las imágenes superior izquierda, inferior central e inferior derecha, puede ver que contiene texturas inconsistentes y es significativamente más borrosa que otros contenidos cercanos, como sus orejas u otros. regiones de su cara», dijo Stamm a la AFP.
El profesor de la Universidad de Buffalo, Siwei Lyu, director del Laboratorio Forense de Medios de la escuela, «dijo a la AFP que [top-left] La imagen también muestra el brazo derecho de Trump en una posición anormal, que parece extenderse demasiado cuando envuelve completamente el cuerpo de Fauci”, informó la organización de noticias. En la imagen inferior central, la mano derecha de Trump está “claramente generada con el pulgar en una posición poco natural», dijo Lyu a la AFP.
«Al mismo tiempo, Stamm notó que la mano izquierda de Trump no parece tener un pulgar en la imagen, sino que se mezcla con su mano derecha», escribió AFP.
El anuncio de campaña de DeSantis no es el primero en usar IA. En abril, el Partido Republicano publicó un anuncio contra Biden que utilizaba imágenes generadas por IA.