Con el auge de las herramientas de inteligencia artificial que pueden crear rápidamente imágenes y videos modificados, crear imágenes falsas para difundir información política errónea que conduzca a las próximas elecciones presidenciales de EE. UU. se ha vuelto más fácil que nunca. La solución de Midjourney a esto podría ser prohibir por completo las imágenes políticas, según Bloomberg. David Holz, director ejecutivo de Midjourney, supuestamente dijo a los usuarios durante una sesión de chat en Discord que la compañía está cerca de prohibir imágenes como las de Biden y Trump durante los próximos 12 meses.
«Sé que es divertido hacer fotografías de Trump; yo hago fotografías de Trump», dijo a los usuarios que asistieron a la sesión. «Trump es estéticamente muy interesante. Sin embargo, probablemente sea mejor no hacerlo, mejor retirarse un poco durante estas elecciones. Ya veremos». Como Bloomberg Como señala, la gente había utilizado previamente la inteligencia artificial de la compañía para generar falsificaciones del arresto de Trump. La compañía puso fin a las pruebas gratuitas de su generador de imágenes de IA después de que esas imágenes, junto con esos infames deepfakes del Papa con un abrigo inspirado en Balenciaga, se volvieran virales.
Por el momento, la empresa ya cuenta con normas que prohíben la creación de «figuras públicas engañosas» y «representaciones de eventos» con «potencial de inducir a error». Bloomberg Sin embargo, aún pudo crear imágenes modificadas de Trump cubierto de espaguetis usando la versión anterior del sistema Midjourney, mientras que la versión más nueva se negó a generar imágenes modificadas del expresidente. Por supuesto, incluso si Midjourney prohibiera imágenes de políticos de alto perfil, solo protegería su plataforma para evitar la ira de los críticos y convertirse en el centro de atención en esta temporada electoral. No impedirá el uso de herramientas de inteligencia artificial en campañas de desinformación política ni la difusión de información falsa destinada a manipular las elecciones en su conjunto.
Otras empresas de tecnología también han tomado medidas para ayudar a prevenir la desinformación política, o al menos para ayudar a que sea más fácil de identificar. ChatGPT pronto comenzará a etiquetar imágenes creadas con DALL-E 3, mientras que Meta está trabajando para desarrollar tecnología que pueda detectar e indicar si una imagen, video o clip de audio se ha generado usando IA.