\n<\/p>\n
En asociaci\u00f3n con Google Cloud, Google DeepMind (la divisi\u00f3n de investigaci\u00f3n de IA de Google) est\u00e1 lanzando una herramienta para marcar con marcas de agua e identificar im\u00e1genes generadas por IA, pero solo im\u00e1genes creadas por el modelo de generaci\u00f3n de im\u00e1genes de Google.<\/p>\n
La herramienta, llamada SynthID y disponible en versi\u00f3n beta para usuarios selectos de Vertex AI (la plataforma de Google para crear aplicaciones y modelos de IA) incorpora una marca de agua digital directamente en los p\u00edxeles de una imagen, haci\u00e9ndola aparentemente imperceptible para el ojo humano pero detectable mediante un algoritmo. . SynthID solo es compatible con Imagen, el modelo de conversi\u00f3n de texto a imagen de Google, que est\u00e1 disponible exclusivamente en Vertex AI.<\/p>\n
Google dijo anteriormente que incorporar\u00eda metadatos para se\u00f1alar los medios visuales creados por modelos generativos de IA. SynthID, obviamente, va un paso m\u00e1s all\u00e1.<\/p>\n
\u00abSi bien la IA generativa puede desbloquear un enorme potencial creativo, tambi\u00e9n presenta nuevos riesgos, como permitir a los creadores difundir informaci\u00f3n falsa, ya sea intencionalmente o no\u00bb, escribe DeepMind en una publicaci\u00f3n de blog. \u00abSer capaz de identificar el contenido generado por IA es fundamental para que las personas sepan cu\u00e1ndo interact\u00faan con los medios generados y para ayudar a prevenir la difusi\u00f3n de informaci\u00f3n err\u00f3nea\u00bb.<\/p>\n
Cr\u00e9ditos de imagen:<\/strong> Mente profunda<\/p>\n<\/div>\n DeepMind afirma que SynthID, que desarroll\u00f3 y se asoci\u00f3 con Google Research (el equipo de investigaci\u00f3n y desarrollo de Google) para perfeccionarlo, permanece vigente incluso despu\u00e9s de modificaciones como agregar filtros a las im\u00e1genes o cambiar los colores y comprimir las im\u00e1genes en gran medida. La herramienta aprovecha dos modelos de IA, uno para marcas de agua y otro para identificaci\u00f3n, que fueron entrenados juntos en un conjunto \u00abdiverso\u00bb de im\u00e1genes, dice DeepMind.<\/p>\n SynthID no puede identificar im\u00e1genes con marcas de agua con un 100% de confianza. Pero la herramienta distingue entre casos en los que una imagen <\/span>podr\u00eda<\/em> contener una marca de agua versus una imagen que es <\/span>muy probable<\/em> contener uno.<\/span><\/p>\n \u00abSynthID no es infalible contra manipulaciones extremas de im\u00e1genes, pero proporciona un enfoque t\u00e9cnico prometedor para capacitar a personas y organizaciones para trabajar con contenido generado por IA de manera responsable\u00bb, escribe DeepMind en la publicaci\u00f3n del blog. \u00abEsta herramienta tambi\u00e9n podr\u00eda evolucionar junto con otros modelos y modalidades de IA m\u00e1s all\u00e1 de las im\u00e1genes, como audio, v\u00eddeo y texto\u00bb.<\/p>\n Las t\u00e9cnicas de marcas de agua para el arte generativo no son nuevas. La startup francesa Imatag, lanzada en 2020, ofrece una herramienta de marca de agua que, seg\u00fan afirma, no se ve afectada al cambiar el tama\u00f1o, recortar, editar o comprimir im\u00e1genes, similar a SynthID. Otra empresa, Steg.AI, emplea un modelo de IA para aplicar marcas de agua que sobreviven al cambio de tama\u00f1o y otras ediciones.<\/p>\n Pero est\u00e1 aumentando la presi\u00f3n sobre las empresas de tecnolog\u00eda para que proporcionen una manera de dejar claro que las obras fueron generadas por IA.<\/p>\n Recientemente, la Administraci\u00f3n del Ciberespacio de China emiti\u00f3 regulaciones que exigen que los proveedores de IA generativa marquen el contenido generado (incluidos los generadores de texto e im\u00e1genes) sin afectar el uso del usuario. Y en audiencias recientes del comit\u00e9 del Senado de Estados Unidos, la senadora Kyrsten Sinema (I-AZ) enfatiz\u00f3 la necesidad de transparencia en la IA generativa, incluido el uso de marcas de agua.<\/p>\n En mayo, en su conferencia anual Build, Microsoft se comprometi\u00f3 a poner marcas de agua en im\u00e1genes y v\u00eddeos generados por IA \u00abutilizando m\u00e9todos criptogr\u00e1ficos\u00bb. Por otra parte, Shutterstock y la startup de IA generativa Midjourney adoptaron pautas para incorporar un marcador que indique que el contenido fue creado por una herramienta de IA generativa. Y DALL-E 2 de OpenAI, una herramienta de conversi\u00f3n de texto a imagen, inserta una peque\u00f1a marca de agua en la parte inferior derecha de las im\u00e1genes que genera.<\/p>\n Pero hasta ahora, un est\u00e1ndar com\u00fan de marcas de agua, tanto para crear marcas de agua como para detectarlas, ha demostrado ser dif\u00edcil de alcanzar.<\/p>\n SynthID, al igual que las otras tecnolog\u00edas propuestas, no ser\u00e1 \u00fatil para ning\u00fan generador de im\u00e1genes que no es<\/em> Imagen, al menos no en su forma actual. DeepMind dice que est\u00e1 considerando poner SynthID a disposici\u00f3n de terceros en un futuro pr\u00f3ximo. Pero si los terceros (especialmente los que desarrollan generadores de im\u00e1genes de IA de c\u00f3digo abierto, que carecen de muchas de las barreras de seguridad de los generadores cerrados detr\u00e1s de una API) adoptar\u00e1n la tecnolog\u00eda es otra cuesti\u00f3n completamente diferente.<\/p>\n<\/p><\/div>\n