El generador de imágenes de OpenAI, DALL-E 3, agregará marcas de agua a los metadatos de las imágenes a medida que más empresas implementen soporte para los estándares de la Coalición para la Procedencia y Autenticidad del Contenido (C2PA).
El la empresa dice Las marcas de agua de C2PA aparecerán en las imágenes generadas en el sitio web ChatGPT y en la API para el modelo DALL-E 3. Los usuarios de dispositivos móviles obtendrán las marcas de agua antes del 12 de febrero. Incluirán un componente de metadatos invisible y un símbolo CR visible, que aparecerá en la esquina superior izquierda de cada imagen.
Las personas pueden verificar la procedencia (qué herramienta de inteligencia artificial se utilizó para crear el contenido) de cualquier imagen generada por las plataformas de OpenAI a través de sitios web como Content Credentials Verify. Hasta ahora, sólo las imágenes fijas, no los vídeos ni el texto, pueden llevar la marca de agua.
OpenAI dice que agregar metadatos de marcas de agua a las imágenes representa un «efecto insignificante en la latencia y no afectará la calidad de la generación de imágenes». También aumentará ligeramente el tamaño de las imágenes para algunas tareas.
El C2PA, un grupo formado por empresas como Adobe y Microsoft, ha estado impulsando el uso de la marca de agua Content Credentials para identificar la procedencia del contenido y mostrar si fue creado por humanos o con IA. Adobe creó un Símbolo de credenciales de contenido, que OpenAI está agregando a las creaciones de DALL-E 3. Meta anunció recientemente que agregar etiquetas al contenido generado por IA en sus plataformas de redes sociales.
Identificar el contenido generado por IA es una de las directivas emblemáticas del Orden ejecutiva de la administración Biden sobre IA. Pero la marca de agua no es una forma segura de detener la desinformación. OpenAI señala que los metadatos de C2PA pueden «eliminarse fácilmente, ya sea accidental o intencionalmente», especialmente porque la mayoría de las plataformas de redes sociales a menudo eliminan metadatos del contenido subido. Al tomar una captura de pantalla se omiten los metadatos.
«Creemos que adoptar estos métodos para establecer la procedencia y alentar a los usuarios a reconocer estas señales es clave para aumentar la confiabilidad de la información digital», dice OpenAI en su sitio.