El Skyrim La comunidad de modding está actualmente envuelta en su propia controversia sobre la pornografía deepfake, con el popular sitio de modding NexusMods y la tecnología de clonación de voz de IA en su centro. Antes del lanzamiento de la próxima epopeya espacial de Bethesda, campo estelary la creencia de que el juego será una especie de Edén para la comunidad de modding, quienes se oponen al uso de mods pornográficos generados por IA enfatizan la importancia de vigilar este tipo de contenido, especialmente cuando se trata de obtener el consentimiento de cualquier persona cuyos datos personales se utilizó para crear el mod AI.
Leer más: Las secuelas del escándalo porno deepfake de Twitch
Insertar personajes, agregar líneas de voz y cambiar apariencias a través de modding ha sido posible desde SkyrimEl lanzamiento original de Bethesda en 2011. El juego de rol de mundo abierto de Bethesda ya es famoso por ser un patio de recreo para contenido erótico que permite a los jugadores posar y vestir a los NPC como mejor les parezca. Sin embargo, los avances en la tecnología de IA han ampliado lo que los jugadores pueden importar a sus juegos. Las modificaciones recientes (de las cuales hay docenas) usan tecnología de clonación de voz de compañías como ElevenLabs para imitar las voces de los usuarios existentes. Skyrim personajes para actuar guiones escritos por los modders, haciendo que personajes como Frea la chamán e Illdi el bardo sean participantes dispuestos en una variedad de encuentros sexuales. Por supuesto, si bien estos son personajes ficticios, son interpretados por personas reales, y ahí es donde radica el problema.
El Skyrim Controversia sobre las falsificaciones profundas de la IA
Muchos de los mods de línea de voz pornográficos también incluyen mods de revisión visual para los personajes (que son casi exclusivamente mujeres), o se vinculan a ellos, para que se vean más realistas o, en muchos casos, más corpulentos.
He visto algunas de estas modificaciones en acción, y ciertamente no se acercan a retratar un encuentro sexual realista: la entrega de la línea de madera de las voces generadas por IA es otro recordatorio de que la IA no puede ni debe reemplazar a las personas reales. pero eso no hace que la existencia de tales mods sea menos problemática.
Robbie, el usuario de Twitter que llamó la atención sobre estas modificaciones (él mismo un Skyrim modder), afirma que los actores de voz que se acercaron a NexusMods, el repositorio más grande de mods para juegos como skyrim, fueron capaces de eliminar el contenido relacionado con ellos. Kotaku pidió confirmación por correo electrónico y Robbie envió un enlace a un mod llamado Valerica, Lust of a Mother.
El mod originalmente declaró que “Actualmente, todo el contenido se expresa con software de IA, y tengo mucho respeto por los actores de voz. Si se ponen en contacto conmigo y quieren que eliminemos esto, ya que usa sus voces como referencia, lo haré y volveré a subir una versión sin voz o que use una muestra de voz con un sonido similar”. Un apéndice dice: «Debido a las acciones de la comunidad de reddit, lamentablemente tuve que eliminar las versiones con voz de este mod para permitir que permanezca en el nexo».
Robbie afirma que él y otros contactaron a la actriz de voz de Valerica, Cindy Robinson, para llamar su atención sobre el mod, y que ella dijo que solicitaría que lo eliminaran. Kotaku contactó a Robinson para hacer comentarios y ella confirmó que personalmente llegado.
NexusMods, dijo en un Declaración de abril de 2023 “El contenido de modificación generado por IA no está en contra de nuestras reglas, pero puede eliminarse si recibimos una queja creíble de un creador/titular de derechos afectado”. La postura ha resultado controvertida, especialmente porque las modificaciones generadas por IA están actualmente activas en el sitio. Kotaku contactó a NexusMods para hacer comentarios.
La situación irritable ha llevado a la comunidad a comenzar a tener conversaciones sobre lo que sucederá a continuación. Robbie escribió un Publicación de Reddit en el Skyrim mods subreddit llamando la atención sobre las modificaciones pornográficas y argumentando a favor de su eliminación, rápidamente se convirtió en el sitio de un intenso debate antes de que los moderadores lo bloquearan. Algunos se quejaron de que la publicación original estaba infringiendo los Términos de servicio de Reddit al «animar a la gente… a formar una brigada en otro sitio web», mientras que otros señalaron como excusa una percepción de falta de indignación contra la técnica tradicional de empalmar líneas de voz «vainilla» para generar contenido explícito. para desestimar la controversia actual.
La publicación original también hacía referencia a los Términos de servicio de ElevenLabs, que supuestamente requieren que las personas que usan el software obtengan el consentimiento para «cargar y clonar» muestras de voz. ElevenLabs requiere que aquellos que usan su tecnología de clonación de voz sean suscriptores pagos de su servicio, en un esfuerzo por mitigar su uso por razones nefastas, pero está claro que esto no ha impedido que las personas usen la tecnología para crear contenido explícito. Kotaku contactó a ElevenLabs para hacer comentarios.
Los actores de voz recurrieron a Twitter para expresar su enojo, frustración y, en muchos casos, disgusto. Aggretsuko el actor Ben Diskin colocó un tweet en su línea de tiempo de Twitter pidiendo a las personas que le hicieran saber si veían su voz en dichos sitios web. “No estoy de acuerdo con que mi(s) voz(s) sea(n) convertida(s) en clones de voz sintética sin mi consentimiento absoluto, claro, específico e innegable”, escribió. Diablo IV El actor de voz Ryan Laughton calificó la práctica como «incorrecta en todos los niveles».
La Asociación Nacional de Actores de Voz tuiteó que «el daño a los actores de doblaje y las compañías de juegos por parte de la IA y las voces sintéticas es real y tangible» y pidió a Bethesda y al estudio matriz ZeniMax que «ayudaran» ya que «los actores de doblaje no tienen la capacidad legal». para luchar contra esto.”
Skyrim Los jugadores y los espectadores también intervinieron, y muchos expresaron disgusto ante la perspectiva de que sus voces se alimenten a un generador de IA que escupirá contenido explícito. “Si alguien usara mi voz para producir contenido generado por IA sin mi consentimiento, estaría furioso. Si alguien usara mi voz para producir pornografía sin mi consentimiento, llamaría a la policía de inmediato para que borraran a esa persona y a cualquier sitio que albergara ese material”, escribió u/robbobert01.
Kotaku contactó a Bethesda para hacer comentarios.
Actualización 05/07/2023 a las 4:55 p. m. ET: Se agregó para incluir información sobre la eliminación de una voz generada por IA en un mod.
Actualización 05/07/2023 a las 5:15 p. m. ET: Agregado para incluir la confirmación de Cindy Robinson.