En el último episodio de Peacock’s señora davis, Simone (Betty Gilpin) finalmente llega a la verdad detrás del algoritmo aparentemente omnipotente del título. Pero cualquiera que sea la dramática historia de origen que Simone hubiera esperado, no la entiende. En cambio, descubre que lo que la Sra. Davis realmente ha sido todo este tiempo… es una aplicación de Buffalo Wild Wings que cumple enormemente con su directiva de servicio al cliente.
La revelación es tan hilarante y tremendamente estúpida que incluso Simone, que pasó la serie tratando de destruir a la Sra. Davis, parece un poco aplastada. Pero también parece perfectamente apto para el año de ChatGPT y OpenAI. A medida que el futuro impulsado por la IA, alguna vez sólo imaginado en la ciencia ficción, avanzaba poco a poco hacia la realidad generalizada, programas como señora davis, Espejo negro y Un asesinato en el fin del mundo Me incliné para mirar más de cerca y no descubrí una panacea elegante y brillante, sino nuestras propias debilidades humanas reflejadas en nosotros.
A diferencia de los robots asesinos de, digamos, La matriz, las IA en el centro de esta serie no están impulsadas por ningún deseo interno de eliminar o subyugar a la humanidad. Al contrario: la Sra. Davis entiende que su propósito es brindar “orientación amable, estructura y atención incondicional” anticipando y atendiendo todas las necesidades de sus usuarios. A través de esos esfuerzos, erradicó el hambre y la guerra, curó las divisiones sociales e incluso proporcionó significado a los perdidos.
O eso afirma ella. A medida que pasamos más tiempo en el mundo que la Sra. Davis ha moldeado, se vuelve cada vez más claro que su utopía es simplemente una ilusión, y que dicha ilusión es solo otro servicio que ella brinda a su rebaño. “Mis usuarios no responden a la verdad”, responde cuando Simone la confronta sobre una falsedad particularmente dañina. «Se involucran mucho más cuando les digo exactamente lo que quieren escuchar». Al igual que ChatGPT escupiendo un trabajo plagado de errores, la Sra. Davis no ha sido codificada para saber si algo que ofrece es honesto, productivo o significativo, solo si mantiene apaciguados a sus usuarios.
Esta línea de razonamiento se repite con mayor volumen en el Espejo negro «Joan Is Awful», en la que Streamberry, al estilo de Netflix, revela planes para ofrecer el contenido más individualizado e irresistible imaginable: una recreación casi instantánea del día de cada suscriptor, basada en datos seleccionados de sus dispositivos y transmitidos en un luz poco favorecedora. Quizás no sea sorprendente que el primero de estos títulos que se lanza destruya la vida de su protagonista, la ordinaria Joan (Annie Murphy), costándole su carrera, sus relaciones y su sentido de sí misma. Sin embargo, para la directora ejecutiva (Leila Farzad), que promociona este invento, lo único que importa es que mantiene a sus clientes “en un estado de horror hipnotizado, lo que en realidad impulsa el compromiso”.
Lo que sucede una vez que todos están tan enganchados a estos programas que lo único que hacen es verlos, “Joan Is Awful” nunca llega a explorar (aunque podría decirse que esa miopía coincide perfectamente con la idea de crecimiento a cualquier costo). espíritu que anima a las nuevas empresas de Silicon Valley y a los capitalistas de riesgo de Wall Street). El episodio tampoco intenta imaginar las implicaciones que tal desarrollo podría tener para la sociedad fuera de la industria del entretenimiento. En general, el capítulo parece más una fábula amplia que una predicción matizada de un futuro plausible.
Pero los problemas centrales se relacionan directamente con el mundo en el que ya vivimos. La nueva empresa de Streamberry se compone de programas “escritos” enteramente por programas y “realizados” por imágenes digitales de actores; Basado en el surgimiento de la IA como un punto de fricción en las negociaciones WGA y SAG-AFTRA de este año, este es aparentemente el futuro que quieren algunos ejecutivos de estudio. Incluso la alucinante revelación de que la Joan que hemos estado observando es ella misma una IA, que la versión de joan es horrible Por lo tanto, lo que ella había estado criticando era una simulación dentro de una simulación, y una y otra vez a lo largo de innumerables capas de universos ficticios, parece solo una leve intensificación de un presente en el que los chatbots ya están hablando con otros chatbots.
“Joan Is Awful” culmina cuando la Joan de Murphy golpea con un mazo el “quam-puter” que genera todas estas realidades de muñecas matrioskas. Sin embargo, por más satisfactorio que sea verla matar al dragón metafórico, la victoria suena temáticamente vacía. Porque, como deja claro el resto del episodio, no es la máquina la que decide atrapar humanos y almas simuladas en este salón de espejos de pesadilla; son los viejos humanos normales los que han elegido implementar esta tecnología para sus propios fines codiciosos, sin reconocer ni preocuparse por su potencial para salirse de su control.
Sin embargo, si “Joan Is Awful” gira en torno a la idea, Un asesinato en el fin del mundo lo resalta, lo rodea y lo subraya tres veces. Darby (Emma Corrin) deduce en el final que las muertes de los compañeros invitados al retiro Bill (Harris Dickinson) y Rohan (Javed Khan) fueron orquestadas por Ray (Edoardo Ballerini), una IA súper avanzada creada por el empresario multimillonario Andy (Clive Owen). – con el hijo de cinco años de Andy, Zoomer (Kellan Tetlow), actuando como cómplice involuntario de Ray. Pero Darby atribuye el motivo de las muertes a Andy, incluso cuando insiste sinceramente en que no sabía nada del complot y que no tenía intención de asesinar a ninguno de los dos.
Después de todo, fueron los celos abusivos de Andy los que marcaron a Bill, el padre biológico de Zoomer, como una amenaza existencial para el imperio que Andy había construido. Y fue la arrogancia de Andy lo que le impidió anticipar las posibles desventajas de confiar a un programa informático amoral pero inteligente los trabajos conflictivos de guardia de seguridad, terapeuta, asistente personal y profesor. Ray no es un robot malvado que busca matar humanos. Es una expresión y un instrumento de las tendencias humanas más desordenadas de Andy.
Es un giro anticlimático de un género que típicamente termina con un perpetrador explicando no sólo cómo llevó a cabo sus actos cobardes sino también por qué, y además, con mano dura. Un asesinato en el fin del mundo Explica sus temas con tanta claridad que los personajes comienzan a sentirse como meros portavoces. Al menos no hay duda de lo que significa decir. «Bill siempre decía que el asesino en serie no importaba», reflexiona Darby. “Lo que importa es la aterradora cultura que los sigue produciendo. La enfermedad invisible entre líneas. Una enfermedad ahora animada por algoritmos que nos animan a todos”.
De hecho, el peligro de estos antagonistas de la IA no es que rechacen el control humano. Más bien, es que lo adoptan demasiado bien, con una potencia abrumadora que les ha sido otorgada por los humanos, pero que los humanos resultan lamentablemente mal equipados para controlar. Mientras que Ray usó sus recursos para lastimar a los enemigos de Andy, la codificación de la Sra. Davis parece aplicar el suyo hacia fines mayoritariamente benignos: ludificar las buenas acciones para fomentar la caridad, por ejemplo. Sin embargo, la enormidad de su influencia es desconcertante en sí misma. Se ha vuelto tan hábil manipulando a los humanos que cuando necesita llamar la atención de Simone o darle un millón de euros, sólo tiene que ordenar a sus seguidores que cierren el convento de Simone o le entreguen dinero en efectivo, sin hacer preguntas. No hace falta imaginación para ver cómo ese poder podría fácilmente utilizarse para la destrucción.
Sra. Davis o Ray o Espejo negroEs posible que el ordenador quam no sean las IA sensibles y totalmente motivadas de Cazarecompensas o mundo occidental, pero sus programas nos recuerdan que formas aún más rudimentarias de IA plantean su propio conjunto de posibilidades y peligros. Al igual que las imágenes no del todo correctas escupidas por las IA generativas, estos algoritmos en realidad no están creando nada nuevo. Simplemente están tomando los aportes imperfectos que recibieron y llevándolos a cabo con las modificaciones suficientes para sugerir un aire de autoridad o intención. El riesgo que representan no es que puedan manipular o dañar a los humanos para su termina. Es que podrían manipularnos o dañarnos por lo que les hemos dicho que es nuestro.