El martes, YouTube anunció que pronto implementará medidas más estrictas sobre el contenido realista generado por IA alojado en el servicio. «Exigiremos a los creadores que revelen cuándo han creado contenido alterado o sintético que sea realista, incluido el uso de herramientas de inteligencia artificial», escribió la compañía en un comunicado. Los cambios se implementarán durante los próximos meses y el próximo año.
La medida de YouTube forma parte de una serie de esfuerzos de la plataforma para abordar los desafíos que plantea la IA generativa en la creación de contenidos, incluidos los deepfakes, la clonación de voz y la desinformación. Cuando los creadores suben contenido, YouTube proporcionará nuevas opciones para indicar si el contenido incluye material realista generado o alterado por IA. «Por ejemplo, podría ser un vídeo generado por IA que represente de manera realista un evento que nunca sucedió, o contenido que muestre a alguien diciendo o haciendo algo que en realidad no hizo», escribe YouTube.
En el anuncio detallado, Jennifer Flannery O’Connor y Emily Moxley, vicepresidentas de gestión de productos de YouTube, explicaron que la actualización de la política tiene como objetivo mantener un ecosistema positivo frente a la IA generativa. «Creemos que es de interés para todos mantener un ecosistema saludable de información en YouTube», escriben. «Tenemos políticas de larga data que prohíben el contenido técnicamente manipulado que engañe a los espectadores… Sin embargo, las nuevas y poderosas formas de narración de la IA también se pueden utilizar para generar contenido que tiene el potencial de engañar a los espectadores, particularmente si no saben que el video ha sido alterado o ha sido creado sintéticamente.»
-
Maqueta proporcionada por YouTube de una etiqueta de contenido agregada a un panel de descripción de video.
-
Maqueta proporcionada por YouTube de una etiqueta de contenido agregada al contenido generado por YouTube AI Dream Screen.
-
Maqueta proporcionada por YouTube de una etiqueta de contenido agregada al reproductor de video, que advierte sobre contenido alterado o sintético.
YouTube también introducirá un nuevo sistema de etiquetado en la plataforma que informará a los espectadores sobre la naturaleza del contenido que están viendo. Por ejemplo, se agregará una nueva etiqueta al panel de descripción y al reproductor de video para el contenido que haya sido alterado o sea sintético, especialmente cuando se discutan temas delicados como «elecciones, conflictos en curso y crisis de salud pública, o funcionarios públicos», dice la compañía. .
Además, el contenido creado por los propios productos de inteligencia artificial generativa de YouTube, como el creador de videos con tecnología de inteligencia artificial Dream Screen, se etiquetará automáticamente como alterado o sintético. La compañía compartió tres maquetas de cómo podrían verse estas etiquetas, aunque pueden cambiar con el tiempo.
Los creadores que opten por evitar la divulgación del uso de la IA pueden estar sujetos a sanciones, incluida la eliminación de contenido o la suspensión del Programa de socios de YouTube. Además, YouTube planea implementar herramientas de moderación de contenido impulsadas por inteligencia artificial que tienen como objetivo mejorar la velocidad y precisión de la identificación y el manejo de contenido que viola las nuevas reglas.
Respuesta a las preocupaciones sobre los deepfakes y la imitación de artistas
YouTube también anunció planes para permitir que las personas soliciten la eliminación de contenido generado por IA que simule individuos identificables, incluidos sus rostros o voces, como los deepfakes, a través de un proceso de solicitud de privacidad. «No todo el contenido se eliminará de YouTube y consideraremos una variedad de factores al evaluar estas solicitudes», escriben. «Esto podría incluir si el contenido es una parodia o una sátira, si la persona que realiza la solicitud puede ser identificada de forma única o si presenta a un funcionario público o un individuo conocido, en cuyo caso puede haber un listón más alto».
En ese sentido, YouTube también introducirá una política para que los artistas o editores de música soliciten la eliminación de música generada por IA que imite la voz única de canto o rap de un artista. Al igual que las solicitudes de privacidad, las posibles eliminaciones considerarán si el contenido es parte de informes de noticias, análisis o críticas de las voces sintéticas, dice la compañía.
Teniendo en cuenta las necesidades de parodia, uso legítimo y comentario político, YouTube dice que está intentando equilibrar las nuevas aplicaciones de IA con sus esfuerzos de seguridad comunitaria. «Todavía estamos en el comienzo de nuestro viaje para desbloquear nuevas formas de innovación y creatividad en YouTube con IA generativa», escriben. «Trabajaremos mano a mano con creadores, artistas y otras personas de las industrias creativas para construir un futuro que nos beneficie a todos».