OpenAI ha agregado una nueva herramienta para detectar si una imagen fue creada con su generador de imágenes DALL-E AI, así como nuevos métodos de marcas de agua para marcar más claramente el contenido que genera.
En una publicación de blog, OpenAI anunció que ha comenzado a desarrollar nuevos métodos de procedencia para rastrear el contenido y demostrar si fue generado por IA. Estos incluyen un nuevo clasificador de detección de imágenes que utiliza IA para determinar si la foto fue generada por IA, así como una marca de agua resistente a manipulaciones que puede etiquetar contenido como audio con señales invisibles.
El clasificador predice la probabilidad de que DALL-E 3 haya creado una imagen. OpenAI afirma que el clasificador funciona incluso si la imagen se recorta o comprime o se cambia la saturación. Si bien la herramienta puede detectar si las imágenes se crearon con DALL-E 3 con alrededor del 98 por ciento de precisión, su rendimiento para determinar si el contenido era de otros modelos de IA no es tan bueno, señalando solo entre el 5 y el 10 por ciento de las imágenes de otros generadores de imágenes. , como A mitad de viaje.
OpenAI agregado previamente Credenciales de contenido para metadatos de imagen. de la Coalición de Autoridad y Procedencia del Contenido (C2PA). Las credenciales de contenido son esencialmente marcas de agua que incluyen información sobre quién es el propietario de la imagen y cómo se creó. OpenAI, junto con empresas como Microsoft y Adobe, es miembro de C2PA. Este mes, OpenAI también se unió al comité directivo de C2PA.
Tanto el clasificador de imágenes como la señal de marca de agua de audio aún se están perfeccionando. OpenAI dice que necesita recibir comentarios de los usuarios para probar su eficacia. Los investigadores y los grupos de periodismo sin fines de lucro pueden probar el clasificador de detección de imágenes aplicándolo a la plataforma de acceso a investigaciones de OpenAI.
OpenAI lleva años trabajando en la detección de contenido generado por IA. Sin embargo, en 2023 tuvo que poner fin a un programa que intentaba identificar texto escrito por IA porque el clasificador de texto AI siempre tuvo baja precisión.