Uno de los pioneros de la investigación sobre inteligencia artificial (IA) ha dimitido de Google para alertar sobre las posibles amenazas de esta tecnología. Geoffrey Hinton, de 75 años, anunció al New York Times su salida de la firma Mountain View, donde trabajaba a tiempo parcial desde 2013. En un artículo publicado el lunes 1ejem May por el diario americano, argumenta que «Las versiones futuras de esta tecnología podrían ser un riesgo para la humanidad». De aquí en adelante, «una parte de él lamenta el trabajo de su vida»confiesa.
La investigadora canadiense-británica, formada en neurociencia y psicología, desempeñó un papel destacado en el avance de la IA mediante redes neuronales. En 2012, apoyado por dos de sus alumnos de la Universidad de Toronto, demostró la superioridad de este enfoque, que imita el funcionamiento del cerebro, superando a los mejores algoritmos de reconocimiento de imágenes.
Esto lo llevó a recibir el Premio Turing en 2019, el galardón más prestigioso para un investigador en ciencias de la computación, que comparte con otros dos pioneros de la IA, el francés Yann Le Cun y un excolaborador, el canadiense Yoshua Bengio. Diez años después, fue su trabajo lo que hizo posible desarrollar las IA conversacionales ChatGPT y Bard o la IA de creación de imágenes Midjourney.
Ahora, las perspectivas futuras de la IA son «bastante aterrador» para los humanos, dijo también el científico a la BBC, el canal público británico. “Por el momento, no son más inteligentes que nosotros, que yo sepa. Pero creo que pronto lo serán»., él continúa. Tal como están las cosas, sus temores se centran en la creación masiva de videos, fotos y artículos falsos en Internet. el teme que «La gente normal ya no puede distinguir el bien del mal».
Concierto de críticas a la IA
El científico también está preocupado por el desarrollo de estas tecnologías y teme que caigan en manos equivocadas. Con el New York Times, teme la devastadora llegada de armas autónomas, como los robots asesinos. En la BBC dice anticipar escenarios «de pesadilla» si una potencia conquistadora como la Rusia de Vladimir Putin tuviera acceso a versiones mejoradas de las tecnologías actuales.
Sus críticas se suman a las de otros especialistas en IA. A principios de abril, una carta abierta firmada por un millar de expertos pedía una pausa de seis meses en la investigación en curso para desarrollar regulaciones para este software, considerado «peligroso para la humanidad». En particular, fue firmado por Yoshua Bengio o Elon Musk, CEO de Tesla y cofundador de OpenAI.
Geoffrey Hinton no deseaba firmar esta carta ni criticar el trabajo de Google, mientras fuera un empleado. “Me fui para poder hablar sobre los peligros de la IA sin preocuparme por el posible impacto en Google”, dijo en un tweet el Sr. Hinton después de que se anunciara su renuncia. Tampoco culpa a su antiguo empleador, a quien más tarde llamó un «muy responsable» en la BBC. Jeff Dean, jefe de Google AI, reaccionó recordando que la empresa tiene como objetivo « comprender los riesgos emergentes [de cette technologie] mientras se innova audazmente”.
En cualquier caso, el caso de conciencia de Geoffrey Hinton parece haber sido alimentado por la mayor competencia en el sector en los últimos meses. Los avances meteóricos en IA ahora están siendo impulsados por inversiones masivas de Microsoft, que financia ChatGPT, Google y otros gigantes digitales, como Meta.