Sam Altman, el El director ejecutivo de OpenAI dijo recientemente que China debería desempeñar un papel clave en la configuración de las barandillas que se colocan alrededor de la tecnología.
“China tiene algunos de los mejores talentos de inteligencia artificial del mundo”, dijo Altman durante una charla en la Academia de Inteligencia Artificial de Beijing (BAAI) la semana pasada. “Resolver la alineación para sistemas avanzados de IA requiere algunas de las mejores mentes de todo el mundo, por lo que realmente espero que los investigadores chinos de IA hagan grandes contribuciones aquí”.
Altman está en una buena posición para opinar sobre estos temas. Su empresa está detrás de ChatGPT, el chatbot que le muestra al mundo lo rápido que progresan las capacidades de IA. Tales avances han llevado a los científicos y tecnólogos a pedir límites a la tecnología. En marzo, muchos expertos firmaron una carta abierta pidiendo una pausa de seis meses en el desarrollo de algoritmos de IA más potentes que los que están detrás de ChatGPT. El mes pasado, ejecutivos como Altman y Demis Hassabis, CEO de Google DeepMind, firmaron una declaración en la que advirtieron que la IA algún día podría representar un riesgo existencial comparable a una guerra nuclear o una pandemia.
Tales declaraciones, a menudo firmadas por ejecutivos que trabajan en la misma tecnología que advierten que podría matarnos, pueden parecer huecas. Para algunos, también pierden el punto. Muchos expertos en IA dicen que es más importante centrarse en los daños que la IA ya puede causar al amplificar los sesgos sociales y facilitar la difusión de información errónea.
El presidente de BAAI, Zhang Hongjiang, me dijo que los investigadores de IA en China también están profundamente preocupados por las nuevas capacidades que surgen en la IA. “Realmente creo que [Altman] está haciendo un servicio a la humanidad al hacer esta gira, al hablar con varios gobiernos e instituciones”, dijo.
Zhang dijo que varios científicos chinos, incluido el director de la BAAI, habían firmado la carta pidiendo una pausa en el desarrollo de sistemas de IA más potentes, pero señaló que la BAAI se ha centrado durante mucho tiempo en riesgos de IA más inmediatos. Los nuevos desarrollos en IA significan que «definitivamente haremos más esfuerzos para trabajar en la alineación de IA», dijo Zhang. Pero agregó que el problema es complicado porque «los modelos más inteligentes en realidad pueden hacer que las cosas sean más seguras».
Altman no fue el único experto occidental en IA que asistió a la conferencia BAAI.
También estuvo presente Geoffrey Hinton, uno de los pioneros del aprendizaje profundo, una tecnología que sustenta toda la IA moderna, quien dejó Google el mes pasado para advertir a las personas sobre los riesgos que podrían presentar pronto los algoritmos cada vez más avanzados.
Max Tegmark, profesor del Instituto Tecnológico de Massachusetts (MIT) y director del Instituto Future of Life, que organizó la carta que pedía la pausa en el desarrollo de la IA, también habló sobre los riesgos de la IA, mientras que Yann LeCun, otro pionero del aprendizaje profundo, sugirió que la alarma actual sobre los riesgos de la IA puede ser un poco exagerada.
Dondequiera que se encuentre en el debate del fin del mundo, hay algo agradable en el hecho de que EE. UU. y China compartan puntos de vista sobre la IA. La retórica habitual gira en torno a la batalla de las naciones para dominar el desarrollo de la tecnología, y puede parecer que la IA se ha envuelto irremediablemente en la política. En enero, por ejemplo, Christopher Wray, jefe del FBI, dijo en el Foro Económico Mundial en Davos que estaba “profundamente preocupado” por el programa de IA del gobierno chino.
Dado que la IA será crucial para el crecimiento económico y la ventaja estratégica, la competencia internacional no sorprende. Pero nadie se beneficia del desarrollo de la tecnología de manera insegura, y el poder creciente de la IA requerirá cierto nivel de cooperación entre EE. UU., China y otras potencias mundiales.
Pero al igual que con el desarrollo de otras tecnologías que «cambiarán el mundo», como la energía nuclear y las herramientas necesarias para combatir el cambio climático, encontrar un terreno común puede recaer en los científicos que entienden mejor la tecnología.