Alrededor de la \u00e9poca en que J. Robert Oppenheimer se enter\u00f3 de que Hiroshima hab\u00eda sido atacada (junto con todos los dem\u00e1s en el mundo) comenz\u00f3 a arrepentirse profundamente de su papel en la creaci\u00f3n de esa bomba. En un momento, cuando se reuni\u00f3 con el presidente Truman Oppenheimer, llor\u00f3 y expres\u00f3 ese pesar. Truman lo llam\u00f3 llor\u00f3n y dijo que no quer\u00eda volver a verlo nunca m\u00e1s. Y Christopher Nolan espera que cuando el p\u00fablico de Silicon Valley de su pel\u00edcula Oppenheimer <\/em>(a la venta el 21 de junio) vean su interpretaci\u00f3n de todos esos eventos, tambi\u00e9n ver\u00e1n algo de s\u00ed mismos all\u00ed.<\/p>\n<\/div>\n Despu\u00e9s de una proyecci\u00f3n de Oppenheimer<\/em> ayer en el Whitby Hotel Christopher Nolan se uni\u00f3 a un panel de cient\u00edficos y Kai Bird, uno de los autores del libro en el que se basa Oppenheimer para hablar sobre la pel\u00edcula, Prometeo americano<\/em>. La audiencia estaba llena en su mayor\u00eda de cient\u00edficos, que se re\u00edan de los chistes sobre el ego de los f\u00edsicos en la pel\u00edcula, pero tambi\u00e9n hab\u00eda algunos reporteros, incluido yo mismo. <\/p>\n<\/div>\n Escuchamos debates demasiado breves sobre el \u00e9xito de la disuasi\u00f3n nuclear y el Dr. Thom Mason, el actual director de Los \u00c1lamos, habl\u00f3 sobre cu\u00e1ntos empleados de laboratorio actuales tuvieron cameos en la pel\u00edcula porque gran parte de ella se film\u00f3 cerca. Pero hacia el final de la conversaci\u00f3n, el moderador, Chuck Todd de Conoce a la prensa<\/em>, le pregunt\u00f3 a Nolan qu\u00e9 esperaba que Silicon Valley pudiera aprender de la pel\u00edcula. \u201cCreo que lo que me gustar\u00eda que se llevaran es el concepto de responsabilidad\u201d, le dijo a Todd. <\/p>\n<\/div>\n \u201c\u00bfAplicado a la IA? Esa es una posibilidad aterradora. Espantoso.\u00bb<\/p>\n<\/div>\n<\/div>\n Luego aclar\u00f3: \u201cCuando innovas a trav\u00e9s de la tecnolog\u00eda, debes asegurarte de que haya responsabilidad\u201d. Se refer\u00eda a una amplia variedad de innovaciones tecnol\u00f3gicas que Silicon Valley ha adoptado, mientras que esas mismas empresas se han negado a reconocer el da\u00f1o que han engendrado repetidamente. \u201cEl auge de las empresas en los \u00faltimos 15 a\u00f1os que utilizan palabras como ‘algoritmo’, sin saber lo que significan en ning\u00fan sentido matem\u00e1tico significativo. Simplemente no quieren asumir la responsabilidad de lo que hace ese algoritmo\u201d.<\/p>\n<\/div>\n Continu\u00f3: \u201c\u00bfY se aplic\u00f3 a la IA? Esa es una posibilidad aterradora. Espantoso. Sobre todo porque a medida que los sistemas de IA entran en la infraestructura de defensa,<\/strong> en \u00faltima instancia, ser\u00e1n acusados \u200b\u200bde armas nucleares y si permitimos que la gente diga que es una entidad separada de la persona que empu\u00f1a, programa y pone en uso la IA, entonces estamos condenados. Tiene que ser sobre responsabilidad. Tenemos que responsabilizar a las personas por lo que hacen con las herramientas que tienen\u201d.<\/p>\n<\/div>\n Si bien Nolan no se refiri\u00f3 a ninguna empresa espec\u00edfica, no es dif\u00edcil saber de qu\u00e9 est\u00e1 hablando. Empresas como Google, Meta y incluso netflix<\/a> dependen en gran medida de los algoritmos para adquirir y mantener audiencias y, a menudo, hay resultados imprevistos y frecuentemente atroces a esa dependencia. Probablemente el m\u00e1s notable y verdaderamente horrible sea la contribuci\u00f3n de Meta a genocidio en myanmar<\/a>. <\/p>\n<\/div>\n \u201cAl menos sirve como una advertencia\u201d.<\/p>\n<\/div>\n<\/div>\n Si bien una gira de disculpas est\u00e1 pr\u00e1cticamente garantizada ahora, d\u00edas despu\u00e9s de que el algoritmo de una empresa haga algo terrible, los algoritmos permanecen. Temas incluso reci\u00e9n lanzados con un exclusivamente<\/em> alimentaci\u00f3n algor\u00edtmica<\/a>. Ocasionalmente, las empresas pueden brindarle una herramienta, como lo hizo facebook<\/a>para apagarlo, pero estos algoritmos de caja negra permanecen, con muy poca discusi\u00f3n sobre todos los posibles malos resultados y mucha discusi\u00f3n sobre los buenos.<\/p>\n<\/div>\n \u201cCuando hablo con los principales investigadores en el campo de la IA, literalmente se refieren a esto como su momento Oppenheimer\u201d, dijo Nolan. \u201cEst\u00e1n mirando su historia para decir cu\u00e1les son las responsabilidades de los cient\u00edficos que desarrollan nuevas tecnolog\u00edas que pueden tener consecuencias no deseadas\u201d. <\/p>\n<\/div>\n \u201c\u00bfCrees que Silicon Valley est\u00e1 pensando eso en este momento?\u201d Todd le pregunt\u00f3. <\/p>\n<\/div>\n \u201cDicen que s\u00ed\u201d, respondi\u00f3 Nolan. \u201cY eso\u201d, se ri\u00f3 entre dientes, \u201ceso es \u00fatil. Eso al menos est\u00e1 en la conversaci\u00f3n. Y espero que ese proceso de pensamiento contin\u00fae. No digo que la historia de Oppenheimer ofrezca respuestas f\u00e1ciles a estas preguntas. Pero al menos sirve como advertencia\u201d.<\/p>\n<\/div>\n<\/div>\n