Scarlett Johansson dice que Altman insinuó que la IA era intencional

OpenAI ha pausado una opción de modo de voz para ChatGPT-4o, Sky, luego de una reacción violenta que acusó a la compañía de inteligencia artificial de copiar intencionalmente la actuación de voz aclamada por la crítica de Scarlett Johansson en la película de ciencia ficción de 2013. Su.

En un blog defendiendo su decisión de elegir Sky, OpenAI explicó con gran detalle su proceso para elegir las opciones de voz individuales para su chatbot. Pero al final, la compañía pareció presionada a admitir que la voz de Sky era demasiado similar a la de Johansson como para seguir usándola, al menos por ahora.

«Creemos que las voces de IA no deben imitar deliberadamente la voz distintiva de una celebridad; la voz de Sky no es una imitación de Scarlett Johansson sino que pertenece a una actriz profesional diferente que usa su propia voz natural», dice el blog de OpenAI.

OpenAI no nombra a la actriz ni a ninguno de los actores de voz de ChatGPT-4o, para proteger su privacidad.

Después de que se publicó esta historia, Johansson emitió un comunicado diciendo que el director ejecutivo de OpenAI, Sam Altman, se acercó a ella para que fuera la voz de la IA.

En septiembre pasado, recibí una oferta de Sam Altman, que quería contratarme para expresar el sistema ChatGPT 4.0 actual. Me dijo que sentía que al expresar el sistema, podría cerrar la brecha entre las empresas de tecnología y los creativos y ayudar a los consumidores a sentirse cómodos con el cambio sísmico que afecta a los humanos y a Al. Dijo que sentía que mi voz consolaría a la gente.

Después de mucha consideración y por motivos personales, rechazó la oferta.

Nueve meses después, mis amigos, mi familia y el público en general notaron cuánto se parecía a mí el sistema más nuevo llamado «Sky».

Cuando escuché la demostración publicada, quedé sorprendido, enojado e incrédulo de que el Sr. Altman usara una voz que sonaba tan inquietantemente similar a la mía que mis amigos más cercanos y los medios de comunicación no podían notar la diferencia. Altman incluso insinuó que la similitud era intencional, tuiteando una sola palabra «ella», una referencia a la película en la que le di voz a un sistema de chat, Samantha, que forma una relación íntima con un humano.

Dos días antes del lanzamiento de la demostración de ChatGPT 4.0, el Sr. Altman se comunicó con mi agente y me pidió que lo reconsiderara. Antes de que pudiéramos conectarnos, el sistema ya estaba disponible.

Como resultado de sus acciones, me vi obligado a contratar un asesor legal, quien escribió dos cartas al Sr. Altman y OpenAl, exponiendo lo que habían hecho y pidiéndoles que detallaran el proceso exacto mediante el cual crearon la voz «Sky». En consecuencia, OpenAl aceptó a regañadientes eliminar la voz de «Sky».

En una época en la que todos lidiamos con los deepfakes y la protección de nuestra propia imagen, nuestro propio trabajo, nuestras propias identidades, creo que estas son preguntas que merecen una claridad absoluta. Espero con interés una resolución en forma de transparencia y la aprobación de legislación adecuada para ayudar a garantizar que se protejan los derechos individuales.

Hace una semana, Altman pareció provocar esta controversia al publicar «ella» en X (anteriormente Twitter) después de anunciar las funciones de audio y video de ChatGPT que, según él, hacían más «natural» para los usuarios interactuar con el chatbot.

Altman ha dicho que Su, una película sobre un hombre que se enamora de su asistente virtual, se encuentra entre sus películas favoritas. Dijo a los asistentes a la conferencia de Dreamforce el año pasado que la película «fue increíblemente profética» al representar «modelos de interacción de cómo las personas usan la IA», informó The San Francisco Standard. Y la semana pasada, Altman promocionó el nuevo modo de voz de GPT-4o prometiendo que «se siente como la IA de las películas».

Pero la directora de tecnología de OpenAI, Mira Murati, ha dicho que los modos de voz de GPT-4o estaban menos inspirados en Su que estudiando los aspectos «realmente naturales, ricos e interactivos» de la conversación humana, informó The Wall Street Journal.

En 2013, por supuesto, los críticos elogiaron el trabajo de Johansson. Su El rendimiento captura expresivamente una amplia gama de emociones, que es exactamente lo que Murati describió como los objetivos de OpenAI para sus voces de chatbot. Rolling Stone notó con qué eficacia Johansson navegó naturalmente entre «tonos dulces, sexys, cariñosos, manipuladores y aterradores». Johansson logró esto, dijo el Hollywood Reporter, usando una «voz femenina vivaz que rompe de manera atractiva pero que también tiene un registro más profundo e invitante».

Su El director y guionista Spike Jonze estaba tan decidido a encontrar la voz adecuada para el asistente virtual de su película que reemplazó a la actriz británica Samantha Morton al final de la producción de la película. Según Vulture, Jonze se dio cuenta de que la voz «materna, amorosa, vagamente británica y casi fantasmal» de Morton no encajaba con su película tan bien como la voz «más joven» y «más apasionada» de Johansson, que, según él, traía «más anhelo».

Los programas nocturnos se divirtieron burlándose de la demostración de OpenAI con la voz de Sky. La demostración mostró al chatbot aparentemente coqueteando con los ingenieros, riendo entre respuestas como «Oh, basta. Me estás haciendo sonrojar». Mientras que The New York Times describió estas interacciones de demostración como que Sky era «deferente y totalmente centrado en el usuario», El show diarioDesi Lydic bromeó diciendo que Sky estaba «claramente programado para alimentar el ego de los tipos».

Es probable que OpenAI espere evitar más controversias en medio de planes para implementar pronto más voces que, según su blog, «se adaptarán mejor a los diversos intereses y preferencias de los usuarios».

OpenAI no respondió de inmediato a la solicitud de comentarios de Ars.

Actores de voz versus IA

La controversia sobre OpenAI llega en un momento en el que muchos cuestionan el impacto de la IA en las comunidades creativas, lo que provocó demandas tempranas de artistas y autores de libros. Este mes, Sony excluyó a todos sus artistas del entrenamiento de IA para evitar que los clones de voz estafaran a los mejores talentos como Adele y Beyoncé.

Los actores de voz también han estado monitoreando generadores de voz de IA cada vez más sofisticados, esperando ver qué amenaza podría representar la IA para futuras oportunidades laborales. Recientemente, dos actores demandaron a una startup de inteligencia artificial llamada Lovo alegando que «usaron ilegalmente grabaciones de sus voces para crear tecnología que pueda competir con su trabajo de voz», informó The New York Times. Según esa demanda, Lovo supuestamente utilizó los clips de voz reales de los actores para clonar sus voces.

«No sabemos cuántas personas más se han visto afectadas», dijo al Times el abogado de los actores, Steve Cohen.

En lugar de reemplazar a los actores de voz, el blog de OpenAI dice que se esfuerzan por apoyar a la industria de la voz al crear chatbots que se reirán de tus chistes o imitarán tu estado de ánimo. Además de pagar a los actores de voz «una compensación superior a las tarifas más altas del mercado», OpenAI dijo que «trabajaron con profesionales de casting y dirección líderes en la industria para reducir más de 400 presentaciones» a las cinco opciones de voz en el lanzamiento inicial de audio y video. características.

Sus objetivos al contratar actores de doblaje eran contratar talentos «de diversos orígenes o que pudieran hablar varios idiomas», seleccionando actores que tuvieran voces que se sintieran «atemporales» e «inspiraran confianza». Para OpenAI, eso significó encontrar actores que tuvieran una «voz cálida, atractiva, carismática y que inspire confianza con un tono rico» que suene «natural y fácil de escuchar».

Para los primeros cinco actores de doblaje de ChatGPT-4o, el trabajo duró unos cinco meses antes de generar más trabajo, dijo OpenAI.

«Seguimos colaborando con los actores, que han contribuido con trabajo adicional para la investigación de audio y nuevas capacidades de voz en GPT-4o», dijo OpenAI.

Sin embargo, podría decirse que estos actores están ayudando a entrenar herramientas de inteligencia artificial que algún día podrían reemplazarlos. Sin embargo, la reacción violenta que defiende a Johansson, uno de los actores mejor pagados del mundo, tal vez muestra que los fanáticos no tomarán a la ligera la imitación directa de ninguna de las estrellas más importantes de Hollywood.

Si bien las críticas a la voz de Sky parecían generalizadas, algunos fanáticos piensan que OpenAI ha reaccionado exageradamente al pausar la voz de Sky.

La crítica del NYT, Alissa Wilkinson, escribió que era «un poco discordante» escuchar la voz de Sky porque «sonaba mucho» como Johansson. Y en respuesta a la publicación X de OpenAI anunciando su decisión de eliminar la función de voz por ahora, un grupo de fanáticos protestó por la «mala decisión» de la compañía de IA, y algunos se quejaron de que Sky era la «mejor» y «más atractiva» voz.

Al menos un fan notó que la decisión de OpenAI parecía perjudicar más al actor de doblaje detrás de Sky.

«Súper injusto para la actriz de doblaje de Sky», escribió un usuario llamado Ate-a-Pi. «Solo porque suena como ScarJo, ahora nunca podrá volver a ganar dinero. Una locura».

Esta historia y titular se actualizaron para incluir la declaración de Scarlett Johansson.