A medida que Google comienza a poner a disposición sus últimas herramientas de generación de videos, la compañía dice que tiene un plan para garantizar la transparencia en torno a los orígenes de sus clips cada vez más realistas generados por IA. Todos los vídeos realizados con el nuevo modelo Veo de la compañía en la aplicación VideoFX tendrán marcas de agua digitales gracias al sistema SynthID de Google. Además, SynthID podrá marcar con agua el texto generado por IA que provenga de Gemini.
SynthID es el sistema de marcas de agua digitales de Google que comenzó a implementarse en imágenes generadas por IA el año pasado. La tecnología incorpora marcas de agua imperceptibles en el contenido creado por IA para que las herramientas de detección de IA puedan reconocer que el contenido fue generado por IA. Teniendo en cuenta que Veo, el último modelo de generación de vídeo de la compañía que se presentó en el escenario de I/O, puede crear clips más largos y de mayor resolución de lo que era posible anteriormente, el seguimiento de la fuente de dicho contenido será cada vez más importante.
A medida que avanzan los modelos de IA generativa, más empresas han recurrido a las marcas de agua por temor a que la IA pueda alimentar una nueva ola de desinformación. Los sistemas de marcas de agua brindarían a plataformas como Google un marco para detectar contenido generado por IA que de otro modo sería imposible de distinguir. TikTok y Meta también anunciaron recientemente planes para admitir herramientas de detección similares en sus plataformas y etiquetar más contenido de IA en sus aplicaciones.
Por supuesto, todavía existen dudas importantes sobre si las marcas de agua digitales por sí solas ofrecen suficiente protección contra el contenido engañoso de la IA. Los investigadores han demostrado que las marcas de agua pueden ser fáciles de evadir. Pero hacer que el contenido creado por IA sea detectable de alguna manera es un primer paso importante hacia la transparencia.
Póngase al día con todas las novedades de Google I/O 2024 aquí!