Nuevo video AI de Open AI: Sora genera cortometrajes impresionantes y desencadena un debate sobre deepfakes y derechos de autor

Primero fueron textos, imágenes, canciones y ahora también películas: ya ninguna forma de arte está a salvo de la inteligencia artificial (IA). El viernes, la empresa líder en inteligencia artificial Open AI, en cuyos modelos de lenguaje se basa Chat-GPT, presentó un nuevo generador de vídeo llamado Sora.

El principio es sencillo: el software recibe información sobre el contenido del vídeo mediante un comando de texto. Cuanto más detallado sea el usuario sobre sus deseos, mejor será el resultado; y Sora ofrece vídeos cortos de hasta un minuto de duración en muy poco tiempo. El software también debería poder ampliar vídeos existentes o generar cortometrajes a partir de imágenes.

Open AI ha publicado decenas de ejemplos que dan una idea de las habilidades de Sora: tiernos personajes de dibujos animados, un vaquero espacial solitario en un desierto salado o una manada de mamuts en un paisaje nevado: las peticiones humanas, Sora las cumple.

Los videos creados son visualmente atractivos y, a veces, muy detallados. Los efectos de iluminación y los travellings son impresionantes. Los rasgos faciales y los movimientos de las personas mostradas también parecen mucho más realistas que en los generadores de vídeo anteriores.

Los cortometrajes a veces contienen errores: no siempre se siguen las reglas de la física, por lo que a veces los objetos aparecen de la nada. También hay errores de contenido. Las hormigas, por ejemplo, que sólo tienen cuatro patas en lugar de seis. O tableros de ajedrez que tienen proporciones incorrectas y se juegan con tres reyes en lugar de dos. Los errores, a veces mayores y a veces menores, muestran que el software está lejos de ser perfecto.

Actualmente, Sora solo está disponible para un pequeño grupo de artistas y probadores beta. Los evaluadores deben comprobar si el software puede utilizarse indebidamente con fines maliciosos. Los diseñadores, a su vez, deberían dar su opinión a Open AI sobre cómo hacer que Sora sea aún más útil como herramienta para su trabajo.

Como suele ocurrir cuando se trata de nuevas aplicaciones de Open AI, el público reacciona ante la nueva herramienta con una mezcla de fascinación y miedo. Tres temas destacan particularmente en la discusión.

Manipulación electoral mediante deepfakes

En primer lugar, existe un temor generalizado de que Sora sea utilizado indebidamente con fines políticos al permitir deepfakes: videos engañosamente reales, pero creados artificialmente que pueden, entre otras cosas, engañar a los votantes y retratar a los candidatos de manera negativa.

Se trata de mucho. Este año se celebran elecciones históricas en India y Estados Unidos, entre otros. El propio jefe de Open AI, Altman, ha prometió garantizar que Chat-GPT no pueda ser utilizado indebidamente para la campaña electoral estadounidense. La empresa estableció directrices para ello en enero. Pero los obstáculos integrados en Chat-GPT a menudo pueden superarse si formula las indicaciones correctamente.

La historia también muestra que casi todas las herramientas técnicas que existen tarde o temprano se utilizarán en las campañas electorales. En Estados Unidos, por ejemplo, los vídeos de campañas electorales negativos y sin principios están muy extendidos desde hace muchas décadas. En 1964, los demócratas retrataron al candidato presidencial republicano Barry Goldwater en un anuncio de campaña como un extremista peligroso que llevaría al mundo a la destrucción nuclear… y tuvieron éxito.

El legendario “Daisy Ad” no hizo ninguna referencia directa a Goldwater. Hoy en día, la preocupación es que, gracias a herramientas como Sora, las plataformas de redes sociales están inundadas de vídeos falsos de los candidatos y no hay forma de exponer y prohibir las falsificaciones con la suficiente rapidez.

Las marcas de agua integradas en los vídeos desde el principio pueden ser un antídoto, pero también se pueden eliminar con suficientes conocimientos técnicos. Paralelamente a Sora, Open AI también está desarrollando herramientas que pueden clasificar vídeos del software. En cierto sentido, la empresa está compitiendo contra sí misma.

Si cientos de deepfakes de Joe Biden o Donald Trump inundaran las redes sociales, sin duda tendría un efecto en las elecciones presidenciales. Si se diera la impresión de que “todo en la campaña electoral está manipulado de todos modos” y “de todos modos, todos los políticos mienten”, esto podría alejar aún más a la población de los procesos democráticos.

Esto ya se ha intentado: en el año electoral estadounidense de 2016, por ejemplo, algunos republicanos trabajaron con datos que la consultora británica Cambridge Analytica había extraído de Facebook para enviar mensajes personalizados a partes del electorado.

Uno de los objetivos era impedir que grupos tradicionalmente cercanos a los demócratas acudieran a las urnas: un voto menos para Hillary Clinton era también un voto para Donald Trump. Es controvertido cuánta influencia tuvieron realmente tales experimentos. – pero eso no cambia el hecho de que los experimentos se llevaron a cabo.

Porno de venganza con IA a tu alcance

En segundo lugar, las falsificaciones generadas por IA pueden también causan grandes daños fuera del ámbito político. Durante años, las mujeres en particular han estado luchando contra los hombres que utilizan la IA para crear imágenes y vídeos pornográficos falsos de ellos y distribuirlos en foros de Internet. A veces las víctimas son estrellas famosas, a veces hombres se vengan de sus exparejas.

Un estudio de la empresa de ciberseguridad Deeptrace Ya en 2019 llegó a la conclusión de que el 96 por ciento de todos los vídeos deepfake encontrados online eran pornografía no consentida. Open AI es consciente de este peligro y escribe: Sora no acepta indicaciones que requieran violencia extrema, contenido sexual o parecido con personas reales..

Intercambiaremos ideas con expertos y políticos y tomaremos en serio sus preocupaciones. Sin embargo, no es posible predecir todas las posibles variantes que podrían utilizarse para hacer un mal uso del software, escribe Open AI.

Copyright: ¿Dónde aprendió Sora su oficio?

Un tercer punto de discusión es el derecho de autor; un campo minado familiar para empresas de IA como Open AI. Como es bien sabido, el New York Times demandó tanto a Open AI como a Microsoft porque sus modelos utilizaban el contenido del periódico durante el entrenamiento. Y de hecho, Open AI, que por lo demás pone mucho énfasis en la transparencia, hasta ahora apenas ha revelado con qué material original alimentó a Chat-GPT and Co.

El malestar es particularmente grande en Hollywood. En 2023, actrices y guionistas iniciaron una huelga de meses, que paralizó gran parte de la industria cinematográfica estadounidense. Entre otras cosas, los huelguistas temían que los estudios utilizaran cada vez más la IA para explotar su imagen digital y privarlos de sus salarios.

Durante mucho tiempo, tales intentos fueron motivo de burla., porque la inteligencia artificial no era lo suficientemente buena. Eso podría cambiar con Sora. Los diseñadores gráficos ya están preocupados por la posibilidad de que la IA los deje sin empleo.

Los generadores de imágenes como Dall-E de Open AI o Midjourney ahora crean ilustraciones personalizadas en todo tipo de estilos con solo presionar un botón. Algunos periódicos y empresas ya utilizan estas herramientas para obtener imágenes de forma económica y rápida y, por supuesto, ya no encargan este trabajo a un diseñador gráfico.

Open AI quiere contrarrestar estas críticas a Sora involucrando a artistas y diseñadores desde una etapa temprana. Pero como escribe la propia empresa: no puede predecir todas las aplicaciones que se utilizarán con su tecnología. El genio está fuera de la botella. Las herramientas de IA están ahí; y los próximos meses mostraremos cómo se utilizan.