Google ha enfatizado que el campo de metadatos en «Acerca de esta imagen» no será una forma segura de ver los orígenes o la procedencia de una imagen. Está diseñado principalmente para brindar más contexto o alertar al usuario ocasional de Internet si una imagen es mucho más antigua de lo que parece (lo que sugiere que ahora podría ser reutilizada) o si ya se ha marcado como problemática en Internet anteriormente.
Procedencia, inferencia, marcas de agua y alfabetización mediática: estas son solo algunas de las palabras y frases utilizadas por los equipos de investigación que ahora tienen la tarea de identificar imágenes generadas por computadora a medida que se multiplican exponencialmente. Pero todas estas herramientas son en cierto modo falibles, y la mayoría de las entidades (incluido Google) reconocen que detectar contenido falso probablemente tendrá que ser un enfoque múltiple.
Kate Knibbs de WIRED informó recientemente sobre las marcas de agua, el estampado digital de textos y fotografías en línea para poder rastrear sus orígenes, como una de las estrategias más prometedoras; tan prometedor que OpenAI, Alphabet, Meta, Amazon y DeepMind de Google están desarrollando tecnología de marcas de agua. Knibbs también informó sobre la facilidad con la que grupos de investigadores pudieron «eliminar» ciertos tipos de marcas de agua de imágenes en línea.
Reality Defender, una startup de Nueva York que vende su tecnología de detección de falsificaciones a agencias gubernamentales, bancos y empresas de tecnología y medios, cree que es casi imposible conocer la “verdad fundamental” de las imágenes de IA. Ben Colman, cofundador y director ejecutivo de la empresa, dice que establecer la procedencia es complicado porque requiere la aceptación de cada fabricante que vende una máquina de creación de imágenes, en torno a un conjunto específico de estándares. También cree que las marcas de agua pueden ser parte de un conjunto de herramientas de detección de IA, pero «no es la herramienta más poderosa del conjunto de herramientas».
Reality Defender se centra más bien en la inferencia, esencialmente en el uso de más IA para detectar la IA. Su sistema escanea activos de texto, imágenes o videos y ofrece una probabilidad del 1 al 99 por ciento de si el activo está manipulado de alguna manera.
«Al más alto nivel, no estamos de acuerdo con cualquier requisito que imponga al consumidor la responsabilidad de distinguir lo real de lo falso», dice Colman. «Con los avances en IA y el fraude en general, ni siquiera los doctores en nuestra sala pueden distinguir entre lo real y lo falso a nivel de píxel».
Hasta ese momento, el «Acerca de esta imagen» de Google existirá bajo el supuesto de que la mayoría de los usuarios de Internet aparte Los investigadores y periodistas querrán saber más sobre esta imagen y que el contexto proporcionado ayudará a avisar a la persona si algo anda mal. Google es también, cabe destacar, la entidad que en los últimos años fue pionera en la arquitectura transformadora que comprende la T en ChatGPT; el creador de una herramienta de inteligencia artificial generativa llamada Bard; el creador de herramientas como Magic Eraser y Magic Memory que alteran imágenes y distorsionan la realidad. Es el mundo de la IA generativa de Google, y la mayoría de nosotros simplemente estamos tratando de encontrar nuestro camino a través de él.