“Dada la creatividad que los humanos han demostrado a lo largo de la historia para inventar historias (falsas) y la libertad que los humanos ya tienen para crear y difundir información errónea en todo el mundo, es poco probable que una gran parte de la población esté buscando información errónea que no puede encontrar en línea. o fuera de línea”, concluye el artículo. Además, la desinformación sólo gana poder cuando la gente la ve, y teniendo en cuenta que el tiempo que la gente tiene para dedicar al contenido viral es finito, el impacto es insignificante.
En cuanto a las imágenes que podrían llegar a las fuentes principales, los autores señalan que, si bien la IA generativa puede, en teoría, generar contenido altamente personalizado y realista, también puede hacerlo Photoshop o el software de edición de video. Cambiar la fecha en un vídeo granulado de un teléfono móvil podría resultar igual de eficaz. Los periodistas y verificadores de datos luchan menos con los deepfakes que con las imágenes fuera de contexto o aquellas crudamente manipuladas para convertirlas en algo que no son, como metraje de videojuego presentado como un ataque de Hamás.
En ese sentido, centrarse excesivamente en una nueva tecnología llamativa suele ser una pista falsa. «Ser realista no siempre es lo que la gente busca o lo que se necesita para ser viral en Internet», añade Sacha Altay, coautor del artículo e investigador postdoctoral cuyo campo actual involucra la desinformación, la confianza y las redes sociales en la Universidad. del Laboratorio de Democracia Digital de Zurich.
Esto también se aplica al lado de la oferta, explica Mashkoor; invención no es implementación. «Hay muchas maneras de manipular la conversación o manipular el espacio de información en línea», dice. «Y hay cosas que a veces son más fáciles de hacer y que podrían no requerir acceso a una tecnología específica, aunque el software de generación de IA es de fácil acceso en este momento, definitivamente hay formas más fáciles de manipular algo si lo haces». Lo estamos buscando”.
Felix Simon, otro de los autores del artículo de la Escuela Kennedy y estudiante de doctorado en el Oxford Internet Institute, advierte que el comentario de su equipo no busca poner fin al debate sobre posibles daños, sino que es un intento de rechazar las afirmaciones genéricas. La IA desencadenará “un armagedón de la verdad”. Este tipo de pánicos suelen acompañar a las nuevas tecnologías.
Dejando de lado la visión apocalíptica, es más fácil estudiar cómo la IA generativa ha de hecho encajado en el ecosistema de desinformación existente. Por ejemplo, es mucho más frecuente que al comienzo de la invasión rusa de Ucrania, sostiene Hany Farid, profesor de la Escuela de Información de la Universidad de California en Berkeley.