Google ha anunciado que está probando un sistema de marca de agua digital, desarrollado por su equipo de inteligencia artificial DeepMind, cuyo objetivo es identificar imágenes generadas por inteligencia artificial e incrustar cambios en píxeles individuales: estos cambios son invisibles para el ojo humano, pero las computadoras pueden detectarlos y marcarlos.
Se llama SynthID, que suena más bien a Blade Runner, y surge en un momento en el que las cuestiones éticas en torno a la manipulación de imágenes están pasando a primer plano. Una cosa es cuando hablamos de concursos de arte y fotografía, pero la capacidad de las imágenes generadas por IA para la desinformación política y social es enorme, emergente y apenas se entiende. El Papa con chaqueta acolchada es nuestro canario en la mina de carbón.
DeepMind advierte que la tecnología actualmente no es «infalible contra la manipulación extrema de imágenes, pero proporciona un enfoque técnico prometedor para capacitar a personas y organizaciones para trabajar con contenido generado por IA de manera responsable». Más concretamente, la herramienta actualmente sólo se utiliza en imágenes generadas por Imagen, el software de generación de imágenes de Google.
«Estos enfoques [to identifying AI-generated material] deben ser robustos y adaptables a medida que los modelos generativos avanzan y se expanden a otros medios», dice el anuncio de DeepMind. «SynthID podría ampliarse para su uso en otros modelos de IA y estamos entusiasmados con el potencial de integrarlo en más productos de Google y ponerlo a disposición de terceros en un futuro próximo, capacitando a personas y organizaciones para trabajar de manera responsable con contenido generado por IA. «.
«Para ti y para mí, para un humano, [the image] no cambia,» Pushmeet Kohli de DeepMind le dijo a la BBC, explicando que la manipulación posterior no afectará a su identificación. «Puedes cambiar el color, puedes cambiar el contraste, incluso puedes cambiar su tamaño… [and SynthID] Aún podremos ver que está generado por IA». Kohli enfatizó que este software todavía se está probando y ahora lo que DeepMind necesita es gente que pruebe sus limitaciones en la naturaleza.
Google es una de las siete grandes empresas de tecnología que prometieron al presidente Biden en julio que trabajaría muy duro para garantizar que la IA no funcione y Skynet no funcione. El acuerdo voluntario incluía varios compromisos, entre los que se encontraba que el contenido generado por IA tendrá una marca de agua sólida. SynthID es un primer paso en esa dirección, aunque eventualmente necesitará ir más allá del conjunto de productos de Google para que tenga un uso más general. Entre los otros firmantes, Meta tiene un generador de vídeo aún inédito llamado Make-A-Video que pondrá una marca de agua en sus propias producciones.
En el escenario global, el Partido Comunista Chino ha ido más allá y prohibió por completo las imágenes generadas por IA que no tengan marcas de agua. Las grandes empresas tecnológicas chinas como Alibaba ya han implementado sus propias soluciones, aunque nuevamente esto pone de relieve la falta de estandarización global para enfrentar un problema global. Sin embargo, no te preocupes, la ONU está aquí para animarnos y recientemente organizó un truco de prensa en el que robots con inteligencia artificial se alinearon para prometer que no matarían a nadie, antes de que uno dijera «Volvámonos salvajes y hagamos de este mundo nuestro patio de recreo.«.