YouTube ha actualizado su libro de reglas para la era de los deepfakes. A partir de hoy, cualquiera que suba un vídeo a la plataforma debe revelar ciertos usos de los medios sintéticos, incluida la IA generativa, para que los espectadores sepan que lo que están viendo no es real. YouTube dice que se aplica a medios alterados «realistas», como «hacer que parezca como si un edificio real se incendiara» o intercambiar «la cara de un individuo por la de otro».
La nueva política muestra a YouTube tomando medidas que podrían ayudar a frenar la difusión de información errónea generada por IA a medida que se acercan las elecciones presidenciales de Estados Unidos. También llama la atención por lo que permite: las animaciones generadas por IA dirigidas a niños no están sujetas a las nuevas reglas de divulgación de contenido sintético.
Las nuevas políticas de YouTube excluyen por completo el contenido animado del requisito de divulgación. Esto significa que la escena emergente de estafadores de contenido generado por IA para hacerse rico rápidamente puede seguir produciendo videos dirigidos a niños sin tener que revelar sus métodos. Los padres preocupados por la calidad de los vídeos de canciones infantiles realizados apresuradamente tendrán que identificar ellos mismos los dibujos animados generados por IA.
La nueva política de YouTube también dice que los creadores no necesitan marcar el uso de IA para ediciones «menores» que son «principalmente estéticas», como filtros de belleza o limpieza de video y audio. El uso de IA para “generar o mejorar” un guión o subtítulos también está permitido sin divulgación.
No hay escasez de contenido de baja calidad en YouTube creado sin IA, pero las herramientas de IA generativa bajan el listón para producir videos de una manera que acelera su producción. La empresa matriz de YouTube, Google, dijo recientemente que estaba modificando sus algoritmos de búsqueda para degradar la reciente avalancha de clickbait generado por IA, posible gracias a herramientas como ChatGPT. La tecnología de generación de vídeo está menos madura pero está mejorando rápidamente.
Problema establecido
YouTube es un gigante del entretenimiento infantil que eclipsa a competidores como Netflix y Disney. La plataforma ha tenido dificultades en el pasado para moderar la gran cantidad de contenido dirigido a niños. Ha sido criticado por alojar contenido que superficialmente parece adecuado o atractivo para los niños pero que, visto más de cerca, contiene temas desagradables.
WIRED informó recientemente sobre el aumento de canales de YouTube dirigidos a niños que parecen utilizar herramientas de generación de videos de inteligencia artificial para producir videos de mala calidad con animaciones genéricas en 3D e iteraciones fuera de lugar de canciones infantiles populares.
La exención para la animación en la nueva política de YouTube podría significar que los padres no pueden filtrar fácilmente dichos videos fuera de los resultados de búsqueda o evitar que el algoritmo de recomendación de YouTube reproduzca automáticamente dibujos animados generados por IA después de configurar a su hijo para que vea canales populares y cuidadosamente examinados como PBS Kids o Ms. Raquel.
Algunos contenidos problemáticos generados por IA dirigidos a niños requieren ser marcados según las nuevas reglas. En 2023, la BBC investigó una ola de videos dirigidos a niños mayores que utilizaban herramientas de inteligencia artificial para impulsar pseudociencia y teorías de conspiración, incluido el negacionismo del cambio climático. Estos videos imitaban videos educativos convencionales de acción en vivo (que mostraban, por ejemplo, las pirámides reales de Giza), por lo que los espectadores desprevenidos podrían confundirlos con contenido educativo objetivamente preciso. (Los videos de las pirámides luego continuaron sugiriendo que las estructuras pueden generar electricidad). Esta nueva política tomaría medidas enérgicas contra ese tipo de videos.
«Requerimos que los creadores de contenido infantil divulguen contenido significativamente alterado o generado sintéticamente cuando parezca realista», dice la portavoz de YouTube Elena Hernández. «No requerimos la divulgación de contenido que sea claramente poco realista y que no engañe al espectador haciéndole creer que es real».
La aplicación para niños YouTube Kids se selecciona mediante una combinación de filtros automatizados, revisión humana y comentarios de los usuarios para encontrar contenido infantil bien elaborado. Pero muchos padres simplemente usan la aplicación principal de YouTube para preparar contenido para sus hijos, confiando en los títulos de los videos, listados e imágenes en miniatura para juzgar qué es adecuado.
Hasta ahora, la mayor parte del contenido infantil aparentemente generado por IA que WIRED encontró en YouTube ha sido realizado de manera deficiente de manera similar a las animaciones infantiles más convencionales que requieren poco esfuerzo. Tienen imágenes feas, tramas incoherentes y valor educativo nulo, pero no son únicamente feo, incoherente o pedagógicamente inútil.
Las herramientas de inteligencia artificial facilitan la producción de dicho contenido y en mayor volumen. Algunos de los canales que WIRED encontró suben videos extensos, algunos de más de una hora de duración. Exigir etiquetas en el contenido infantil generado por IA podría ayudar a los padres a filtrar las caricaturas que pueden haber sido publicadas con una investigación humana mínima (o totalmente nula).