Ayer, cientos en la comunidad de amigos y colegas de Eckersley llenaron las bancas para un tipo inusual de servicio conmemorativo en el santuario similar a una iglesia del Archivo de Internet en San Francisco: un simposio con una serie de charlas dedicadas no solo a los recuerdos de Eckersley como un persona sino un recorrido por la obra de su vida. Frente a un santuario dedicado a Eckersley en la parte trasera del salón lleno de sus escritos, su amada bicicleta de carretera y algunas muestras de su guardarropa gótico punk victoriano, Turan, Gallagher y otros 10 oradores hicieron presentaciones sobre la larga lista de contribuciones de Eckersley: sus años empujando a Silicon Valley hacia mejores tecnologías de preservación de la privacidad, su co-fundación de un proyecto innovador para encriptar toda la web y su último giro para mejorar la seguridad y la ética de la IA.
El evento también sirvió como una especie de lanzamiento suave para AOI, la organización que ahora continuará con el trabajo de Eckersley después de su muerte. Eckersley imaginó el instituto como una incubadora y un laboratorio aplicado que trabajaría con los principales laboratorios de IA para abordar el problema que Eckersley había llegado a creer que era, quizás, incluso más importante que el trabajo de privacidad y ciberseguridad al que había dedicado décadas de su vida. carrera: redirigir el futuro de la inteligencia artificial lejos de las fuerzas que causan sufrimiento en el mundo, hacia lo que describió como «florecimiento humano».
“Necesitamos hacer de la IA no solo lo que somos, sino lo que aspiramos a ser”, dijo Turan en su discurso en el evento conmemorativo, después de reproducir una grabación de la llamada telefónica en la que Eckersley lo había reclutado. “Para que pueda llevarnos en esa dirección”.
La misión que Eckersley concibió para AOI surgió de una sensación creciente durante la última década de que la IA tiene un «problema de alineación»: que su evolución se precipita hacia adelante a un ritmo cada vez más acelerado, pero con objetivos simplistas que están fuera de sintonía con los de la salud y la felicidad de la humanidad. En lugar de marcar el comienzo de un paraíso de superabundancia y ocio creativo para todos, Eckersley creía que, en su trayectoria actual, es mucho más probable que la IA amplifique todas las fuerzas que ya están destruyendo el mundo: destrucción ambiental, explotación de los pobres y desenfrenado nacionalismo, por mencionar algunos.
El objetivo de AOI, como lo describen Turan y Gallagher, no es tratar de frenar el progreso de AI, sino dirigir su objetivos lejos de esas fuerzas destructivas y resueltas. Argumentan que esa es la mejor esperanza de la humanidad para prevenir, por ejemplo, el software hiperinteligente que puede lavar el cerebro a los humanos a través de publicidad o propaganda, corporaciones con estrategias y poderes divinos para recolectar hasta el último hidrocarburo de la tierra, o sistemas de piratería automatizados que pueden penetrar cualquier red en el mundo para causar caos global. “Las fallas de la IA no se verán como nanobots arrastrándose sobre nosotros de repente”, dice Turan. “Estos son desastres económicos y ambientales que se verán muy reconocibles, similares a las cosas que están sucediendo en este momento”.
Gallagher, ahora director ejecutivo de AOI, enfatiza que la visión de Eckersley para el instituto no era la de una Cassandra agorera, sino la de un pastor que podría guiar a AI hacia sus sueños idealistas para el futuro. “Él nunca pensó en cómo prevenir una distopía. Su forma de pensar eternamente optimista era, ‘¿cómo hacemos la utopía?’”, dice ella. “¿Qué podemos hacer para construir un mundo mejor y cómo puede la inteligencia artificial trabajar para el florecimiento humano?”