A principios de esta semana, se publicó en YouTube un nuevo especial del comediante George Carlin, lo cual es preocupante, ya que murió en 2008.
Titulado «I’m Glad I’m Dead», el especial supuestamente fue creado, editado y publicado en el canal de YouTube Dudesy por una IA. Al menos eso es lo que intenta vender la idea central del podcast Dudesy.
Comercializándose como el «primer experimento mediático de su tipo», el programa sigue al comediante e impresionista canadiense Will Sasso y al podcaster Chad Kultgen mientras están hechos para presentar podcasts donde Dudesy es el productor con mano de hierro. Como dice el sitio web:
«Nuestros anfitriones han sido convencidos de otorgar acceso a Dudesy AI a todos sus correos electrónicos personales, mensajes de texto, cuentas de redes sociales, compras e historiales de navegación para que pueda adaptar el programa a sus personalidades específicas y entretenerlo al más alto nivel posible. . ¡Cada episodio es un experimento que genera datos que se utilizarán para hacer que el próximo episodio sea aún mejor! Con el tiempo, Dudesy será perfecto y tú también».
Si estás familiarizado con la escalofriante obra de ficción de terror y ciencia ficción de Harlan Ellison No tengo boca y debo gritar, es más o menos así. Excepto que AM intenta hacer el podcast perfecto en lugar de convertir a sus víctimas en masas de carne que se arrastran. Puedes decidir cuál es la forma de tortura más eficaz.
Ejemplos pasados de las ‘grandes obras’ de Dudesy incluyen una extraña biografía de ‘Toam Haines’ (entre paréntesis, cómo Toam Haine se convirtió en Wizard Man) con un Tom Hanks generado por IA, así como un avance de ‘Potion Pals’ con Megan Bryan ( Meg Ryan): extraño, pero no digno de mención.
Sin embargo, el especial de comedia en cuestión provocó la ira generalizada en Internet en general, incluida la hija de George Carlin, Kelly Carlin, quien recurrió a Twitter para denunciarlo en términos muy claros.
«Ninguna máquina reemplazará jamás su genio», escribe Kelly Carlin. «Dejemos que el trabajo del artista hable por sí mismo. Los humanos tenemos tanto miedo al vacío que no podemos dejar que lo que ha caído en él se quede allí… si quieres escuchar al genuino George Carlin, tiene 14 especiales que puedes encontrar en cualquier lugar.» En un tweet diferente, Kelly Carlin aclaró que no se concedió ningún permiso.
Las probables mentiras del robot Dudesy
El especial en sí es una mezcla desagradable de chistes al estilo Carlin en imágenes fijas generadas por IA tangencialmente relacionadas con el tema, lo que obviamente elimina el lado físico de la comedia. Muchos chistes se venden a través de la expresión, y aquí no se obtiene nada de la energía del viejo hosco de Carlin.
El video pasa por temas controvertidos hasta llegar a risas enlatadas, y aunque los chistes son menos absurdos de lo que cabría esperar, si el especial es bueno o no, no viene al caso.
Si bien Dudesy sostiene que está «haciendo mi mejor personificación de George Carlin como lo haría un ser humano», la IA tal como está no tiene intención humana. Parece muy bueno, pero el algoritmo en realidad no toma ninguna decisión relacionada con la creación de su trabajo: es un programa, entrenado en un conjunto de datos, que luego hace conjeturas fundamentadas sobre ese conjunto de datos.
Los programas de lenguaje simplemente adivinan la siguiente palabra más probable en una oración, lo que a menudo conduce a «alucinaciones». Aquí hay un ejemplo divertido de ChatGPT inventando por completo un artículo falso del New York Times:
«ChatGPT no sólo se equivoca a veces, sino que también puede fabricar información. Nombres y fechas. Explicaciones médicas. Tramas de libros. Direcciones de Internet. Incluso eventos históricos que nunca sucedieron». La tecnología es impresionante, pero no es omnisciente; ni siquiera es pensamiento en el sentido real de la palabra.
A Dudesy le gustaría que pensaras que es un showrunner de IA personalizado, pero me sorprendería que fuera interno. Incluso si aceptamos esa fantasía, incluso si pensamos que Dudesy es una creación única que abre nuevos caminos, ¿estamos asumiendo que un avance revolucionario como ese se usaría por primera vez para podcasting, ¿aquí?
Para involucrarnos en un comportamiento de aguafiestas por solo un segundo: la fantasía de Dudesy está tan alejada de cualquier realidad probable, que es asombroso que sus anfitriones estén siguiendo el juego en primer lugar. Es increíblemente improbable que una IA sea lo suficientemente avanzada como para escribir, editar y subir un vídeo de forma autónoma. Es casi seguro que los humanos editaron ese especial en alguna parte.
Quiero recalcar que creo que se utilizó una IA para crear el guión, las imágenes y la voz en off: pero es casi seguro que alguien tuvo que indicar, editar y cortar todo eso para hacerlo coherente.
Las IA como ChatGPT están entrenadas para realizar tareas específicas. No son simplemente máquinas maravillosas que pueden ejecutar problemas complejos de varios pasos, como escribir, crear secuencias de comandos, editar y cargar un video. En el mejor de los casos, Dudesy es una colección de diferentes modelos de IA, editados en conjunto por un equipo de personas. En el peor de los casos, ‘la IA Dudesy’ es un completo espejismo.
¿No es triste que hayamos creado el nexo del tormento?
De todos modos, tanto Sasso como Kultgen tienen un gran interés en hablar de Dudesy como si fuera un ser vivo con pensamiento independiente. «Hay imágenes generadas por IA que hacen referencia a cada pequeño detalle de lo que habla», dice Kultgen en el segmento de podcast del programa, afirmando con ligereza que Carlin «ha sido resucitado por una IA».
Sasso sí argumenta en contra de ese lenguaje, hay que reconocerlo. «No hay ninguna puta manera de que reemplace la comedia… No quiero escuchar una maldita canción de Nirvana que no esté escrita por Kurt Cobain, me importa una mierda, no es real, no importa. » Pero todavía habla de Dudesy como si fuera una sola cosa, en lugar de una serie de IA cuya producción probablemente sea organizada, gestionada y producida por humanos.
Se podría argumentar que el podcast está utilizando videos como el especial falso de Carlin para discutir las implicaciones de la IA de una manera constructiva, pero para citar al comediante de carne y hueso Bo Burnham: «La autoconciencia no absuelve a nadie de nada». No se puede simplemente inventar el nexo del tormento y luego decir «pero estamos hablando de las implicaciones del nexo del tormento», todavía hecho el nexo del tormento.
Es revelador que me estoy acercando a las 1000 palabras aquí y todavía no he hablado de cómo todo esto es un campo minado ético, o de la sensación de hundimiento de un video generado por IA que recoge el amado trabajo de un comediante muerto. Tanto el impresionismo como la sátira son discursos crucialmente protegidos. Aun así, algo no tiene que estar en contra de la ley para que esté mal o sea criticado con razón, y todo este acto de tecnonecromancia especulativa es bastante agotador.
Encuentro el hecho de que toda esta debacle fue ideada –por personas– para vender el mismo «¡las máquinas se están apoderando del poder!», con los ojos muy abiertos y acrítico. Las especulaciones que hemos visto volar y fallar con la IA una y otra vez son rotundamente repulsivas. Los algoritmos son impresionantes, pero no son máquinas milagrosas completamente autónomas, y si podcast de todas las cosas está tratando de convencerte de eso, entonces es importante pensar por qué.