“Hay tanta bondad que este tipo de tecnología puede engendrar, tanto sufrimiento que puede prevenir, y luego está el aspecto de cuánta destrucción puede causar y cuánto se puede perder en ese proceso”, dice Kim, quien fue una de las primeras empleadas de Google y también ha trabajado en Naciones Unidas y como asistente de Paul Graham, cofundador de la incubadora de startups Y Combinator. “No creo que tengamos todas las respuestas. Solo tenemos que ser muy prohumanos y brindar a las personas los medios críticos para pensar en esta tecnología”.
La exhibición temporal está financiada hasta mayo por un donante anónimo, pero el espacio muestra la influencia de varios fundadores y pensadores tecnológicos, desde un marco Pío sobre IA y altruismo efectivo por parte del cofundador de Facebook, Dustin Moskovitz, a la bañera llena de pasta cerca de la entrada de la exhibición. Este último es una referencia a las ideas de Holden Karnofsky, cofundador con Moskovitz de Open Philanthropy, que ha financiado OpenAI y otros trabajos relacionados con el camino futuro de la IA. Karnofsky ha argumentado que estamos viviendo en lo que puede ser el siglo más importante en la historia de la humanidad, antes de la posible llegada de la IA transformadora que él llama Proceso para Automatizar el Avance Científico y Tecnológico, o PASTA.
Los intentos de predecir el futuro lejano de la IA se han centrado recientemente en ChatGPT y la tecnología relacionada, como la nueva interfaz de búsqueda de Microsoft, a pesar de sus limitaciones bien documentadas y su valor aún poco claro. Los empresarios que apuestan por la tecnología están haciendo afirmaciones grandilocuentes sobre lo que su tecnología es capaz de hacer. La semana pasada, el CEO de OpenAI publicó una publicación de blog sobre cómo la empresa está «planificando para AGI».
Poco después, la Comisión Federal de Comercio de EE. UU., una agencia que protege contra las prácticas comerciales engañosas, advirtió a los especialistas en marketing que no hicieran afirmaciones falsas sobre lo que su tecnología es capaz de hacer. El abogado de la FTC, Michael Atleson, escribió en su propia publicación de blog que «todavía no estamos viviendo en el reino de la ciencia ficción, donde las computadoras generalmente pueden hacer predicciones confiables del comportamiento humano».
Muchos investigadores de IA creen que, si bien los sistemas de IA generativa como ChatGPT pueden ser impresionantes, la tecnología no merece el crédito de inteligencia, porque el algoritmo solo repite y remezcla patrones de sus datos de entrenamiento.
Desde este punto de vista, es mejor pensar en la IA limitada de hoy más como una calculadora o una tostadora, no como un ser sensible. Algunos especialistas en ética de la IA creen que atribuir características humanas como la sensibilidad a la tecnología puede distraer la atención de las conversaciones sobre otras formas de automatización dañina, como la tecnología de vigilancia que exportan empresas en naciones democráticas y autoritarias por igual.
Kim dice que se familiarizó por primera vez con el aprendizaje automático como una de las primeras contratadas en la startup de conducción autónoma Cruise, luego adquirida por General Motors. Comenzó a pensar en cómo la IA que funciona correctamente podría eliminar muchas muertes y sufrimientos innecesarios, pero también que si la tecnología no funciona, podría presentar un gran riesgo para las vidas humanas.
Además de exhibir arte de IA y arte sobre IA, el Misalignment Museum planea presentar proyecciones de películas que exploran el potencial más oscuro de la tecnología, como El terminador, ex machina, Suy teatro del pensamientoun documental de 2022 sobre neurociencia e IA dirigido por Herzog.
Kim dice que le parece poco probable que AGI mate a la mayor parte de la humanidad, a pesar del tema de su exhibición, pero que la gente debería pensar en los impactos de la IA que ya están apareciendo, como educadores y editores literarios que intentan analizar la diferencia entre el texto generado por humanos y el generado por IA. o las propias discusiones de WIRED sobre cómo la IA generativa podría o debería ayudar a los periodistas.
“La IA nos va a afectar a todos, así que para mí se trata de cómo hacemos para que tantas personas empiecen a pensar en ello y se formen sus propias opiniones”, dice Kim. El Museo de la Desalineación está abierto al público los jueves, viernes y sábados. Ella planea organizar recorridos para grupos escolares para inspeccionar las exhibiciones y explorar una biblioteca de material de lectura sobre las oportunidades y los daños potenciales de la inteligencia artificial.
“Estoy trabajando para conseguir escaleras de tijera para que cuando los niños entren puedan ver los ojos de los Spambots”, dice Kim.