Instagram parece estar trabajando en nuevos avisos que identificarían cuándo la IA ha desempeñado un papel en la creación de contenido en su plataforma.
El investigador de aplicaciones Alessandro Paluzzi, que con frecuencia descubre nuevas funciones de Instagram antes de que se anuncien o publiquen oficialmente, ha publicó una captura de pantalla de una página en la aplicación de Instagram que dice «el creador o Meta dijo que este contenido fue creado o editado con IA». El aviso específico señala que en este caso es una imagen que ha sido «generada por Meta AI», antes de dar una breve descripción de qué es la IA generativa y cómo identificar publicaciones que usan IA.
El descubrimiento se produce poco después de que Meta, junto con otros jugadores importantes de IA, incluidos Google, Microsoft y OpenAI, se comprometió con la Casa Blanca en torno al desarrollo responsable de la IA. Además de invertir en investigación sobre ciberseguridad y discriminación, uno de los compromisos incluía el desarrollo de un sistema de marca de agua para informar a los usuarios cuando el contenido es generado por IA.
No está claro exactamente qué tan automatizado será el sistema de etiquetado de Instagram y en qué medida dependerá de que los usuarios revelen cuándo se usó IA para crear o editar una imagen. Sin embargo, el hecho de que el aviso contenga las palabras «Meta dijo» sugiere que, al menos en algunos casos, la empresa de tecnología aplicará el aviso de manera proactiva, en lugar de confiar en la honestidad de los propios usuarios. Un portavoz de Meta se negó a comentar a Engadget en el aviso, y la compañía no respondió de inmediato a el bordesolicitud de comentarios.
Aunque todavía está en sus inicios, ya hemos tenido una idea de cómo podría verse la información errónea generada por IA cuando un foto del papa con una chaqueta hinchada adornada se volvió viral en las redes sociales a principios de este año. En este caso, la imagen relativamente inofensiva finalmente se desacreditó, pero se vio como una advertencia de que ahora existen herramientas simples para difundir información errónea peligrosa si se aplica a imágenes de satélite y fotografía política.
Meta recientemente código abierto de su modelo de lenguaje grande LLaMA 2, pero aún tiene que lanzar ampliamente funciones de IA generativa orientadas al consumidor para sus productos como Instagram. Sin embargo, tenemos un par de pistas sobre los tipos de características que está desarrollando. En una reunión de todos en junio, el director ejecutivo Mark Zuckerberg dijo que Meta estaba desarrollando funciones como el uso de indicaciones de texto para modificar fotos para Instagram Stories, Axios reportadoe investigador de aplicaciones Paluzzi también ha visto signos de una función de «pincel AI» para Instagram que podría «agregar o reemplazar partes específicas» de las imágenes. el tiempo financiero reportado recientemente que Meta podría integrar una función de ‘personas’ de chatbot de IA en sus productos tan pronto como el próximo mes.
Más allá de Meta, Google ya ha anunciado una nueva herramienta que debería facilitar a los usuarios determinar si una imagen ha sido generada por IA. Es Función «Acerca de esta imagen» se lanzará este verano y está diseñado para resaltar el primer lugar en el que el gigante de las búsquedas indexó una imagen, brindando pistas vitales sobre sus orígenes.