El “padrino” de la inteligencia artificial, Geoffrey Hinton, renunció a su trabajo en Google, diciendo que los “malos actores” usarán nuevas tecnologías de inteligencia artificial para dañar a otros y que las herramientas que ayudó a crear podrían significar el fin de la humanidad.
El Dr. Hinton ha dedicado toda su carrera a investigar el desarrollo y los usos de las tecnologías de IA, y en 2018 recibió el Premio Turing por su trabajo.
Desde 2013 divide su tiempo entre el equipo de investigación de inteligencia artificial de Google y la Universidad de Toronto, donde es profesor emérito.
En un perfil del New York Times, el Dr. Hinton dice que «es difícil ver cómo se puede evitar que los malos actores lo usen para cosas malas».
“Me consuelo con la excusa normal: si no lo hubiera hecho yo, alguien más lo habría hecho”, dijo al periódico, y agregó que el progreso logrado en la tecnología de inteligencia artificial en los últimos cinco años es “aterrador”.
Sin embargo, el Dr. Hinton dijo ayer en Twitter que pensaba que Google había actuado «muy responsablemente», y agregó que dejó la empresa «para poder hablar sobre los peligros de la IA sin considerar cómo afecta esto a Google».
Las aplicaciones de inteligencia artificial como Midjourney y ChatGPT se han vuelto virales en los sitios de redes sociales, con usuarios que publican imágenes falsas de celebridades y políticos, y estudiantes que usan ChatGPT y otros «modelos de aprendizaje de idiomas» para generar ensayos de grado universitario.
Sin embargo, un número creciente de expertos afirma que el desarrollo de la IA debería ralentizarse o detenerse, y más de mil líderes tecnológicos firmaron una carta para pedir una «moratoria» en marzo.
En otra entrevista con la BBC, el Dr. Hinton dijo que ahora le preocupa que la inteligencia artificial represente un grave riesgo para los humanos.
“Puede obtener muchos bots de spam muy efectivos, que permitirán que los líderes autoritarios manipulen a sus electores”, dijo.
“Hay otra cosa en particular de la que quiero hablar, que es el riesgo existencial de lo que sucede cuando estas cosas se vuelven más inteligentes que nosotros.
“Somos sistemas biológicos, estos son sistemas digitales, y la diferencia es que con los sistemas digitales tienes muchas copias del mismo conjunto de pesos, el mismo modelo del mundo.
“Todas estas copias pueden aprender por separado pero compartir sus conocimientos al instante. Entonces es como si tuvieras 10,000 personas, y cada vez que una persona aprendiera algo, todos lo supieran automáticamente. Así es como estos chats pueden saber mucho más que cualquier persona”.
El Dr. Hinton, de 75 años, estudió psicología experimental en la Universidad de Cambridge antes de obtener su doctorado en inteligencia artificial en la Universidad de Edimburgo en 1978.
En 2012, el Dr. Hinton y dos de sus estudiantes graduados construyeron una «red neuronal» que podía analizar fotos e identificar objetos comunes, lo que fue aclamado como un hito importante en el desarrollo de la IA.
El Dr. Hinton se ha negado a recibir fondos del ejército estadounidense a lo largo de su carrera, dejó la academia en los EE. UU. y se mudó a Canadá para continuar con su investigación.