YouTube exigirá a los creadores la divulgación de vídeos manipulados por IA

YouTube está implementando un nuevo requisito para los creadores de contenido: deben revelar cuándo utilizan contenido generado por IA en sus videos. La información aparece en la interfaz de usuario de carga de videos y se utilizará para generar una advertencia de «contenido alterado» en los videos.

Google presentó una vista previa de la política de «contenido de IA engañoso» en noviembre, pero el cuestionario ya está disponible. A Google le preocupan principalmente las representaciones alteradas de personas o eventos reales, lo que parece más preocupaciones en temporada electoral sobre cómo la IA puede engañar a las personas. La semana pasada, Google desactivó las preguntas electorales para su chatbot «Gemini».

Como siempre, las reglas exactas de YouTube están sujetas a interpretación. Google dice que está «exigiendo a los creadores que revelen a los espectadores cuando el contenido realista (contenido que un espectador podría confundir fácilmente con una persona, lugar o evento real) se crea con medios alterados o sintéticos, incluida la IA generativa», pero no requiere que los creadores lo hagan. revelar contenido manipulado que sea «claramente poco realista, animado, que incluya efectos especiales o que haya utilizado IA generativa para ayudar en la producción».

Google ofrece ejemplos de cuándo es necesaria una divulgación y el nuevo cuestionario para subir vídeos guía a los creadores de contenido a través de estos requisitos:

• Usando la imagen de una persona realista: Alterar contenido digitalmente para reemplazar el rostro de un individuo por el de otro o generar sintéticamente la voz de una persona para narrar un vídeo.
• Alteración de imágenes de eventos o lugares reales: Como hacer que parezca como si un edificio real se incendiara o alterar un paisaje urbano real para que parezca diferente de la realidad.
• Generando escenas realistas: Mostrando una representación realista de eventos ficticios importantes, como un tornado que avanza hacia una ciudad real.

Google dice que las etiquetas comenzarán a implementarse «en todas las superficies y formatos de YouTube en las próximas semanas, comenzando con la aplicación de YouTube en su teléfono y pronto en su escritorio y televisor». La compañía dice que también está trabajando en un proceso para que las personas que son objeto de un video manipulado por IA soliciten su eliminación, pero aún no tiene detalles al respecto.