Lo que necesitas saber
- OpenAI anunció recientemente que ahora agregará marcas de agua a las imágenes generadas utilizando ChatGPT o API que sirve a la tecnología DALL-E 3.
- Esto ayudará a los usuarios a identificar imágenes generadas con estas herramientas de inteligencia artificial, desmitificándolas claramente de las imágenes reales.
- Este cambio sólo se aplica a las imágenes; No afectará la voz o el texto generados por IA.
en medio del Prevalencia de información errónea y deepfakes de IA en la web, OpenAI Anunciado medidas que se están adoptando para combatir este problema. Las imágenes generadas mediante ChatGPT o API con tecnología DALL-E 3 ahora incluirán marcas de agua. Esta es la apuesta de la compañía para promover una mayor transparencia, ya que la marca de agua informará a las personas que una imagen ha sido generada por IA.
La marca de agua incluirá información detallada, incluido cuándo se generó la imagen y el logotipo de C2PA. Sin embargo, OpenAI admite que incorporar la Coalición para la Procedencia y Autenticidad del Contenido (C2PA) en la tecnología DALL-E 3 y ChatGPT no es «una solución milagrosa para abordar cuestiones de procedencia». La empresa además resaltado eso:
«Los metadatos como C2PA no son una solución milagrosa para abordar cuestiones de procedencia. Se pueden eliminar fácilmente, ya sea de manera accidental o intencional. Por ejemplo, la mayoría de las plataformas de redes sociales hoy en día eliminan los metadatos de las imágenes cargadas, y acciones como tomar una captura de pantalla también pueden eliminarlos. Por lo tanto, una imagen que carece de estos metadatos puede o no haber sido generada con ChatGPT o nuestra API».
Vale la pena señalar que este cambio puede afectar levemente los tamaños de archivo de las imágenes generadas con estas herramientas. Sin embargo, esto no afectará la calidad de las imágenes. Así es como los metadatos de C2PA pueden afectar el tamaño de las imágenes generadas por IA:
- 3,1 MB → 3,2 MB para PNG a través de API (aumento del 3%)
- 287k → 302k para WebP a través de API (aumento del 5%)
- 287k → 381k para WebP a través de ChatGPT (aumento del 32%)
Se espera que el cambio se implemente para los usuarios de dispositivos móviles la próxima semana, el 12 de febrero de 2024.
La marca de agua es un paso en la dirección correcta, pero ¿es suficiente?
Una de las cosas que me fascina de la IA generativa es la capacidad de aprovechar la tecnología para generar imágenes realistas mediante indicaciones basadas en texto en cuestión de segundos. Herramientas impulsadas por IA diseñadas para este propósito específico, como Creador de imágenes del diseñador (anteriormente Bing Image Creator) y ChatGPTsólo han mejorado con el tiempo.
Sin embargo, no todo ha sido diversión y glamour. Image Creator de Designer de Microsoft aprovecha Tecnología DALL-E 3 de OpenAI, que llevó sus capacidades de generación de imágenes al siguiente nivel. Es cierto que la herramienta de inteligencia artificial genera imágenes más atractivas en comparación con las versiones anteriores.
Desafortunadamente, el revuelo duró poco debido al mayor número de informes que aparecieron en línea, citando casos en los que la herramienta se utilizó para generar contenido ofensivo y explícito. Esto obligó a Microsoft a establecer barreras de seguridad y aumentar la censura sobre la herramienta de generación de imágenes para evitar su uso indebido.
Si bien estas medidas desempeñan un papel crucial a la hora de establecer control sobre la herramienta, algunos usuarios sintieron que Microsoft se excedió un poco con la censura, en última instancia. lobotomizándolo.
RELACIONADO: La nueva herramienta de generación de imágenes de Google le permite ajustar las salidas
Hace unas pocas semanas, Imágenes explícitas de la conocida estrella del pop Taylor Swift se volvieron virales en las plataformas de redes sociales, solo para que la verdad saliera a la luz más tarde, revelando que eran deepfakes de IA que se cree que se generaron con Microsoft Designer.
Parece que cuanto más censura sufren estas herramientas, más difícil resulta explorar y aprovechar plenamente sus capacidades.