Cada vez más mods de Skyrim, incluidos algunos con calificación M, utilizan voces generadas por IA basadas en actores de voz reales. Algunos de esos actores ahora han denunciado públicamente la práctica de raspar y clonar actuaciones sin permiso, especialmente con fines pornográficos.
El trabajo de voz de IA no es una controversia nueva, pero se ha vuelto significativamente más frecuente en la escena de modificación de Skyrim en los últimos meses gracias a la herramienta de IA ElevenLabs, que despegó en 2022 y poco a poco cobró impulso entre los modders de Skyrim. El postura oficial de Nexus Mods, que en abril de 2023 dictaminó que «el contenido de mod generado por IA no está en contra de nuestras reglas», también agregó combustible al fuego.
La IA se ha utilizado recientemente para dar voces a los Dragonborn, algunos compañeros Skyrim NPC y muchos otros personajes. Naturalmente, era solo cuestión de tiempo antes de que la tecnología llegara a mods explícitos, lo que ha sido un paso demasiado lejos para algunos.
Con el auge de la clonación de voz de IA, las comunidades de modding abusan de los actores de voz. Como miembro de la escena de modding de Skyrim, estoy profundamente preocupado por la práctica de usar la clonación de voz de IA para crear y distribuir contenido pornográfico falso no consentido. pic.twitter.com/ySUFqrtjH01 de julio de 2023
Una nueva larga correo del usuario de Twitter Robbie92 argumenta que «los actores de voz están siendo abusados por las comunidades de modding» que están utilizando «clonación de voz de IA para crear y distribuir contenido pornográfico deepfake no consensuado».
La publicación incluye una lista de actores de voz cuyas actuaciones supuestamente se han utilizado en mods porno de Skyrim. Si bien no pude verificar a todos los actores afectados solo de oído (hay un océano de mods porno de Skyrim, personas y mods de IA que tienden a no dar crédito a las voces que han clonado), Robbie92 también compartió un documento considerable que vincula a docenas de mods que usan descaradamente voces de IA, frecuentemente a través de ElevenLabs. De hecho, muchos de los proyectos de Skyrim en Nexus Mods que están etiquetados como generados por IA incluso invitan a los usuarios a remezclar o ajustar voces artificiales.
Esta publicación ha reavivado el debate sobre la moralidad de la actuación de voz de IA en mods y ha dirigido partes de la deliberación en curso sobre falsificación profunda de Internet a la comunidad de mods de Skyrim. Las respuestas iniciales de los actores de voz, incluidos muchos que han trabajado en la serie The Elder Scrolls o Skyrim específicamente, no han sido bienvenidas.
«Esto es realmente perturbador» dicho Elisa Gabrielli, quien expresó a Maven Black-Briar en Skyrim y ha contribuido a docenas de otros juegos. «Lo miraré.»
«Si encuentra mi voz en una de estas situaciones, hágamelo saber para que pueda pedir que la eliminen». agrega Ben Diskin, cuyos numerosos créditos de voz en videojuegos incluyen The Elder Scrolls Online. «No doy mi consentimiento para que mis datos biométricos se utilicen para estos fines».
El actor de voz Kyle McCarley, quizás mejor conocido por muchos papeles de anime, pero también ha prestado su voz en varios juegos, incluido The Elder Scrolls Online, repitió La postura de Diskin: «Por favor, dígame si encuentra mi huella de voz en algún lugar como este. No quiero que la gente use IA para poner palabras en mi boca».
Abbey Veffer, que prestó su voz a varios personajes en Genshin Impact y The Elder Scrolls Online: Necrom, escribió: «Si encuentra mi voz en una de estas modificaciones, hágamelo saber para que pueda solicitar que se elimine. No doy, y nunca daré mi consentimiento para que mi voz se use para síntesis de IA, clonación, falsificaciones profundas, etc. . Esto no esta bien.»
Me acerqué a Veffer para obtener más de sus pensamientos sobre el tema. Me refirió a un artículo reciente de KCRW discutiendo las consecuencias de las falsificaciones profundas y afirmó que «ha sido suplantada en Twitter a través de la síntesis de voz de IA dos veces, y una vez engañada, así que puedes imaginar cómo me siento con todo esto».
«¡Esto está MAL en todos los niveles!» está de acuerdo Ryan Laughton, cuya voz se puede encontrar en títulos como Diablo 4, Hitman 2 y Return of the Obra Dinn. «Es inquietante. WTF está mal con las personas, la clonación de voz de AI está fuera de control. No apoye la replicación de AI de las voces de VA de ninguna forma o forma. Por favor, avíseme si alguna vez encuentra que mi voz se usa de esta manera. Yo no dé su consentimiento».
Los contraargumentos comunes a favor de los mods de voz de IA incluyen la libertad creativa, la falta de incentivos para obtener ganancias y la incapacidad de obtener trabajo de voz pagado. Impulsados por la difusión de la pornografía AI Skyrim, varios actores de doblaje han ido tras estos argumentos en particular.
«El acto de tomar la voz de un actor sin su consentimiento y hacer que diga cualquier cosa, ESPECIALMENTE el contenido nsfw es jodidamente atroz». dice Zane Schacht. En respuesta a un usuario que señaló que las voces de IA pueden facilitar la creación de modificaciones más ambiciosas, como misiones de historias con voz, Schacht agregó: «Si quieres actuación de voz, paga a un actor. Si no puedes pagar a un actor, pregúntale». Da vueltas y mira si alguien lo hará gratis. Si no puedes encontrar uno que lo haga gratis, no obtienes actuación de voz».
Hablando con GamesRadar+, Schacht reiteró que si bien ve todas las voces de la IA como «basura poco ética», ya sean los presidentes de EE. nuevo significado».
“Una cosa es agarrar la voz de un actor y hacer que diga un meme tonto”, dijo. «Otra es hacer que participen en actos sexuales. No tengo nada en contra de los mods NSFW. No tengo nada en contra del arte NSFW. Pero en el centro de esto hay una falta de respeto fundamental por el actor de doblaje original. Verlos como datos puros para moldear y no un individuo. El consentimiento lo es todo. Y si estás creando contenido sexual sin el consentimiento de las partes involucradas, eso es simplemente vil».
Es cierto que muchos modders independientes no pueden permitirse, o no quieren pagar, la actuación de voz original, pero el argumento de que es totalmente inaccesible para los mods se desmorona rápidamente dada la gran cantidad de proyectos de voz. Sólo este abril, un grupo de fanáticos de Hollow Knight y más de 100 actores de doblaje voces añadidas a más de 400 caracteres.
En el espacio Bethesda, mega mods como Fallout: London han estado solicitando actores de doblaje durante años. Estos proyectos son obviamente más grandes que una muñeca sexual digital parlante que un tipo hizo para Skyrim, pero esto se remonta al argumento de Schacht de que si no puedes pagar un actor o encontrar un voluntario, tal vez no deberías pervertir la actuación de un actor establecido. sin su consentimiento.
Marc Swint, a quien quizás hayas escuchado en Smite o Street Fighter 5, apuntó en las oportunidades de NSFW: «Hay MUCHOS talentos de voz que trabajan específicamente en la escena de NSFW disponibles para SFM y animaciones de Blender, etc. Por favor, si está trabajando en animaciones sexys, comuníquese con ellos y respete sus tarifas. No use Clonación de voz AI. ESPECIALMENTE no para este propósito».
Nexus Mods dijo anteriormente que puede eliminar el contenido generado por IA en respuesta a una «queja creíble de una parte que se siente [a mod] es dañino para ellos», incluido un actor de voz o propietario de activos. También aconsejó a los usuarios que «eviten usar estas herramientas a menos que tengan permiso explícito para usar todos los activos», pero muchos han ignorado claramente el consentimiento del actor de voz. Nexus Mods incluso agregó que «esto es particularmente cierto para la actuación de voz generada por IA», pero eso no ha detenido la marea.
El sitio tiene un Formulario DMCA para proyectos que usan contenido considerado robado o usado de manera inapropiada, pero no está claro qué tan efectiva puede ser esta ruta para los actores de voz dada la gran cantidad de modificaciones de IA para luchar, así como la burocracia legal que viene con los derechos de autor de los videojuegos y la propiedad del rendimiento. Me comuniqué con Nexus Mods para comentar sobre la situación con Skyrim y una actualización sobre su postura sobre la actuación de voz de IA.
Schacht no se mostró optimista acerca de las opciones disponibles para los actores de voz frente a estas modificaciones: «La espantosa conclusión a la que he llegado es que si un actor usa su voz para crear una plantilla y esa plantilla dice cosas terribles sin su consentimiento, lo único Lo que podría evitar que tal cosa suceda es la brújula moral del modder para empezar. Y en los últimos días he visto la fortaleza moral de algunos de estos modders y la encontré gravemente deficiente».
«Si realmente quieres ver la fealdad de las personas», agregó Schacht, «mira cómo reaccionan cuando les dices ‘No’. No, no puedes usar mi voz y mi semejanza en contra de mi voluntad. No, no puedes obligarme a decir el meme. La gente se vuelve salvaje y se quita la máscara».
A veces echo de menos los días en que los mods eran más como este batido Skyrim Grimaceque puede o no matarte.