Google está mostrando un sistema que puede ocultar una marca de agua en imágenes generadas por IA sin cambiar el aspecto de las imágenes.
El sistema «SynthID» de la empresa puede incrustar marcas de agua digitales en imágenes de IA que son «imperceptibles para el ojo humano, pero detectables para su identificación», dice el laboratorio DeepMind de Google.
Google no revela cómo SynthID crea estas marcas de agua imperceptibles, probablemente para evitar alertar a los malos actores. Por ahora, DeepMind simplemente dice que la marca de agua está «incrustada en los píxeles de una imagen», lo que sugiere que la compañía está agregando un patrón pequeño y diminuto junto a los píxeles que no alterará el aspecto general.
La empresa crea las marcas de agua utilizando dos modelos de aprendizaje profundo que están capacitados para mejorar la imperceptibilidad del sistema y al mismo tiempo identificar correctamente las marcas de agua digitales.
DeepMind agregó: «Diseñamos SynthID para que no comprometa la calidad de la imagen y permita que la marca de agua permanezca detectable, incluso después de modificaciones como agregar filtros, cambiar colores y guardar con varios esquemas de compresión con pérdida, los más comúnmente utilizados para archivos JPEG». La marca de agua también puede permanecer en la imagen incluso si está recortada.
La compañía agregó: «SynthID no es infalible contra manipulaciones extremas de imágenes, pero proporciona un enfoque técnico prometedor para capacitar a personas y organizaciones para trabajar con contenido generado por IA de manera responsable».
Recomendado por nuestros editores
Google está lanzando SynthID como versión beta para clientes selectos de Imagen, el generador de texto a imagen de la compañía disponible en la plataforma Vertex AI. El sistema puede agregar la marca de agua a una imagen y también identificar imágenes que llevan el sello digital.
Google dice que podría expandir el sistema a otros modelos de IA, incluidos sus propios productos. El gigante tecnológico también espera que SynthID esté disponible para desarrolladores externos en un futuro próximo. Mientras tanto, otras empresas, incluidas OpenAI, Microsoft y Amazon, también se han comprometido a desarrollar formas de marcar con agua el contenido generado por IA.
¿Te gusta lo que estás leyendo?
Matricularse en Vigilancia de seguridad boletín informativo con nuestras principales historias de privacidad y seguridad enviado directamente a su bandeja de entrada.
Este boletín puede contener publicidad, ofertas o enlaces de afiliados. La suscripción a un boletín indica su consentimiento a nuestros Términos de uso y Política de privacidad. Puede darse de baja de los boletines en cualquier momento.