Alrededor de la época en que J. Robert Oppenheimer se enteró de que Hiroshima había sido atacada (junto con todos los demás en el mundo) comenzó a arrepentirse profundamente de su papel en la creación de esa bomba. En un momento, cuando se reunió con el presidente Truman Oppenheimer, lloró y expresó ese pesar. Truman lo llamó llorón y dijo que no quería volver a verlo nunca más. Y Christopher Nolan espera que cuando el público de Silicon Valley de su película Oppenheimer (a la venta el 21 de junio) vean su interpretación de todos esos eventos, también verán algo de sí mismos allí.
Después de una proyección de Oppenheimer ayer en el Whitby Hotel Christopher Nolan se unió a un panel de científicos y Kai Bird, uno de los autores del libro en el que se basa Oppenheimer para hablar sobre la película, Prometeo americano. La audiencia estaba llena en su mayoría de científicos, que se reían de los chistes sobre el ego de los físicos en la película, pero también había algunos reporteros, incluido yo mismo.
Escuchamos debates demasiado breves sobre el éxito de la disuasión nuclear y el Dr. Thom Mason, el actual director de Los Álamos, habló sobre cuántos empleados de laboratorio actuales tuvieron cameos en la película porque gran parte de ella se filmó cerca. Pero hacia el final de la conversación, el moderador, Chuck Todd de Conoce a la prensa, le preguntó a Nolan qué esperaba que Silicon Valley pudiera aprender de la película. “Creo que lo que me gustaría que se llevaran es el concepto de responsabilidad”, le dijo a Todd.
“¿Aplicado a la IA? Esa es una posibilidad aterradora. Espantoso.»
Luego aclaró: “Cuando innovas a través de la tecnología, debes asegurarte de que haya responsabilidad”. Se refería a una amplia variedad de innovaciones tecnológicas que Silicon Valley ha adoptado, mientras que esas mismas empresas se han negado a reconocer el daño que han engendrado repetidamente. “El auge de las empresas en los últimos 15 años que utilizan palabras como ‘algoritmo’, sin saber lo que significan en ningún sentido matemático significativo. Simplemente no quieren asumir la responsabilidad de lo que hace ese algoritmo”.
Continuó: “¿Y se aplicó a la IA? Esa es una posibilidad aterradora. Espantoso. Sobre todo porque a medida que los sistemas de IA entran en la infraestructura de defensa, en última instancia, serán acusados de armas nucleares y si permitimos que la gente diga que es una entidad separada de la persona que empuña, programa y pone en uso la IA, entonces estamos condenados. Tiene que ser sobre responsabilidad. Tenemos que responsabilizar a las personas por lo que hacen con las herramientas que tienen”.
Si bien Nolan no se refirió a ninguna empresa específica, no es difícil saber de qué está hablando. Empresas como Google, Meta y incluso netflix dependen en gran medida de los algoritmos para adquirir y mantener audiencias y, a menudo, hay resultados imprevistos y frecuentemente atroces a esa dependencia. Probablemente el más notable y verdaderamente horrible sea la contribución de Meta a genocidio en myanmar.
“Al menos sirve como una advertencia”.
Si bien una gira de disculpas está prácticamente garantizada ahora, días después de que el algoritmo de una empresa haga algo terrible, los algoritmos permanecen. Temas incluso recién lanzados con un exclusivamente alimentación algorítmica. Ocasionalmente, las empresas pueden brindarle una herramienta, como lo hizo facebookpara apagarlo, pero estos algoritmos de caja negra permanecen, con muy poca discusión sobre todos los posibles malos resultados y mucha discusión sobre los buenos.
“Cuando hablo con los principales investigadores en el campo de la IA, literalmente se refieren a esto como su momento Oppenheimer”, dijo Nolan. “Están mirando su historia para decir cuáles son las responsabilidades de los científicos que desarrollan nuevas tecnologías que pueden tener consecuencias no deseadas”.
“¿Crees que Silicon Valley está pensando eso en este momento?” Todd le preguntó.
“Dicen que sí”, respondió Nolan. “Y eso”, se rió entre dientes, “eso es útil. Eso al menos está en la conversación. Y espero que ese proceso de pensamiento continúe. No digo que la historia de Oppenheimer ofrezca respuestas fáciles a estas preguntas. Pero al menos sirve como advertencia”.