La escena de modding predominante de Skyrim es notoria en la industria de los videojuegos por extender la vida de uno de los mejores juegos de Bethesda. Pero en este momento, el panorama de la modificación está rodeado de controversia debido al aumento de los clips de voz generados por IA en modificaciones basadas en actores de voz reales de Skyrim. Si eso no plantea suficientes preguntas éticas, algunas de las modificaciones cuentan con actuaciones de voz pornográficas de IA, lo que provoca reacciones violentas y protestas en la comunidad de actores de doblaje.
Este problema fue informado por primera vez por JuegosRadar, que llamó la atención sobre Nexus Mods, un distribuidor de mods que aloja varios de los mods pornográficos de Skyrim en cuestión. Cuando IGN contactó a Nexus Mods para comentar sobre esta historia, un vocero simplemente se vinculó a la política actual del sitio sobre contenido de IA, que dice en parte: «El contenido de mod generado por IA no está en contra de nuestras reglas, pero puede eliminarse si recibimos una queja creíble de un creador/titular de derechos afectado».
El usuario de Twitter @Robbie92_ señaló la práctica de la clonación de voz de IA en la escena de modding de Skyrim finales del mes pasado, etiquetando a varios actores de doblaje afectados. Robbie dijo que las interpretaciones de voz de los actores se incorporaron principalmente a una herramienta de clonación de IA llamada ElevenLabs, que generó las voces de IA que se usaron en el contenido explícito.
Con el auge de la clonación de voz de IA, las comunidades de modding abusan de los actores de voz. Como miembro de la escena de modding de Skyrim, estoy profundamente preocupado por la práctica de usar la clonación de voz de IA para crear y distribuir contenido pornográfico falso no consentido. pic.twitter.com/ySUFqrtjH0
—Robbie (@Robbie92_) 1 de julio de 2023
«Soy un miembro de larga data y profundamente preocupado de la comunidad de mods de la serie de juegos The Elder Scrolls», escribió Robbie. «Creo que la creación y distribución de pornografía falsa es descaradamente mala, y que nosotros, como comunidad, tenemos la responsabilidad de actuar».
Las respuestas al Tweet original de Robbie están llenas de algunos de los actores de voz afectados que reaccionan al enterarse de que sus voces se han utilizado para contenido pornográfico de IA sin su consentimiento. Muchos actores de doblaje se sorprendieron cuando aprendieron sobre este tema por primera vez, y el actor de doblaje Richard Epcar escribió: «¡¿Qué demonios?!»
¡¿Qué mierda?!
—Richard Epcar (@RichardEpcar) 4 de julio de 2023
Robbie también compartió una Documento de Google que contiene una lista de nombres y enlaces de varias modificaciones que usan la clonación de voz AI. Robbie escribió que solo se puede acceder a los enlaces con una cuenta activa de Nexus Mods, ya que están etiquetados como NSFW.
Esta lista, aunque no es exhaustiva, tiene alrededor de 100 enlaces a mods NSFW enumerados en Nexus Mods. En el momento de escribir este artículo, los creadores ya han ocultado muchos de los mods, con el mensaje: «El mod tiene (posibles) problemas de permisos que el autor está trabajando para resolver». Sin embargo, muchos de los enlaces siguen siendo completamente accesibles.
Los «posibles problemas de permisos» se vuelven obvios al profundizar en Condiciones de servicio de ElevenLabsya que cualquiera que haya usado el generador de voz para crear mods NSFW Skyrim violó parte del acuerdo de usuario.
«Al cargar archivos en nuestros servicios, usted confirma que es el propietario de estos archivos o que tiene los derechos y permisos necesarios para usar estos archivos. Solo puede cargar archivos si marca una casilla de verificación que lo confirma», sitio web de ElevenLabs lee en parte. «Por ejemplo, si carga la grabación de voz de alguien en nuestros Servicios, confirma que tiene permiso del propietario de la voz para clonar y sintetizar su voz. Solo usted es responsable de asegurar estos derechos y permisos».
IGN se ha comunicado con ElevenLabs para hacer comentarios.
Cómo las modificaciones pornográficas Deepfake de Skyrim impactan a los actores de voz
Cuando un modder usa líneas generadas por IA de un actor de voz real, puede tener un impacto significativo en la seguridad de la carrera y la salud mental del actor. IGN habló con un par de actores de doblaje que han trabajado en The Elder Scrolls Online sobre cómo las falsificaciones profundas (especialmente las de naturaleza explícita) están afectando a sus colegas. Si bien ninguno de los actores de doblaje con los que hablamos figuraba específicamente en el documento de actores de doblaje afectados, ambos tienen información valiosa sobre lo que significa esta situación para la industria.
Abbey Veffer hizo un trabajo de voz para la reciente expansión Necrom de ESO, y ha sido muy abierta en las redes sociales con respecto a la controversia sobre la modificación de Skyrim. En un correo electrónico a IGN, Veffer compartió su postura sobre las modificaciones.
«Creo que el uso de la síntesis de IA para la clonación de voz no consensuada y las modificaciones/falsificaciones profundas de NSFW deben verse como la violación que es», escribió Veffer. «En mi opinión, esto debería tratarse como algo similar a la pornografía de venganza. Es un problema ponderado arraigado en los perpetradores que juegan con dinámicas de poder y quieren una apariencia de control a expensas de otra persona, es decir, actores de los que pueden decir que son fanáticos».
Veffer expresó su frustración porque las personas que están haciendo las modificaciones no las ven como dañinas y no entienden las implicaciones. Se apresuró a señalar que es posible que los fanáticos no vean que crear contenido como este es a expensas de una persona real, y que los actores de doblaje no son tan ricos o intocables como pueden pensar los fanáticos.
«Debido a los conceptos erróneos comunes sobre los salarios de los actores, muchos observadores sin educación pueden pensar que todos estamos equipados con abogados costosos que pueden salvarnos en un abrir y cerrar de ojos. También asumen que estas suplantaciones de IA no pondrán en peligro nuestros trabajos, pero eso es completamente falso. La mayoría de los actores de doblaje no son ricos, y la estabilidad laboral realmente no existe en esta industria. Todos estamos en el mismo barco, y todos merecemos protección contra el abuso de la IA».
IGN también habló con Kyle McCarley, otro actor de doblaje de ESO que se opone al uso indebido de actores de doblaje en proyectos generados por IA. En una declaración a IGN, McCarley dijo que «las implicaciones de que esta tecnología no se controle son francamente horribles», y luego explicó el daño a los actores de doblaje.
“Si los fanáticos están creando memes en los que nuestras voces dicen cosas que no dijimos, eso puede perjudicar absolutamente nuestras oportunidades de empleo si esas falsificaciones son lo suficientemente buenas como para convencer a nuestros empleadores”, dijo McCarley. «No somos dueños de los derechos de los personajes que representamos, nuestros empleadores sí. Muchos de ellos, comprensiblemente, no quieren que ‘usemos’ esos personajes para decir cosas sin su autorización, como tampoco queremos que la gente use nuestras voces para decir esas cosas… Nuestra imagen pública podría verse empañada por un troll que nos obligue a decir cosas atroces, y ese tipo de cosas puede ser casi imposible de recuperar, no solo financieramente, sino también mental y emocionalmente».
En cuanto a lo que se puede hacer, McCarley y Veffer están de acuerdo en que la legislación es el único camino real para proteger a los actores de las falsificaciones profundas de IA, y que los actores independientes no podrán detener esto por sí mismos a largo plazo.
McCarley también señaló la actual Negociaciones entre SAG-AFTRA y los estudios de Hollywooddonde el sindicato del entretenimiento está presionando por protecciones contra los empleadores que usan tecnología de IA sin permiso y/o pago adicional.
«Es por eso que necesitamos desesperadamente una legislación a nivel federal, para establecer la supervisión de las empresas que desarrollan esta tecnología y reglas sobre cómo pueden usarla tanto las empresas privadas en cuestión como el público en general. Y luego hacer cumplir esas reglas con firmeza». medidas punitivas para quienes las violen… Todo lo que un actor individual puede hacer en este momento es tratar de contactar a la persona que usa el modelo y pedirle cortésmente que se detenga, lo que obviamente generará resultados mixtos».
Logan Plant es un escritor independiente en IGN