Una vez que consigamos que las computadoras alcancen la inteligencia del nivel humano, no se detendrán ahí. Con un conocimiento profundo, habilidades matemáticas a nivel de máquina y mejores algoritmos, crearán superinteligencia, ¿verdad?
Sí, no hay duda de que las máquinas acabarán siendo más inteligentes que los humanos. No sabemos cuánto tiempo llevará: podrían ser años o siglos.
En eso punto, ¿tenemos que cerrar las escotillas?
No no. Todos tendremos asistentes de inteligencia artificial y será como trabajar con un equipo de personas súper inteligentes. Simplemente no serán personas. Los humanos nos sentimos amenazados por esto, pero creo que deberíamos sentirnos emocionados. Lo que más me entusiasma es trabajar con personas más inteligentes que yo, porque amplifica tus propias habilidades.
Pero si las computadoras se vuelven superinteligentes, ¿por qué nos necesitarían?
No hay razón para creer que sólo porque los sistemas de IA sean inteligentes querrán dominarnos. La gente se equivoca cuando imagina que los sistemas de IA tendrán las mismas motivaciones que los humanos. Simplemente no lo harán. Los diseñaremos para que no lo hagan.
¿Qué pasa si los humanos no aprovechan esos impulsos y los sistemas de superinteligencia terminan perjudicando a los humanos al perseguir resueltamente un objetivo? Como el ejemplo del filósofo Nick Bostrom de un sistema diseñado para fabricar clips pase lo que pase, y se apodera del mundo para fabricar más.
Sería extremadamente estúpido construir un sistema y no construir barandillas. Sería como construir un automóvil con un motor de 1.000 caballos de fuerza y sin frenos. Introducir unidades en sistemas de inteligencia artificial es la única forma de hacerlos controlables y seguros. A esto lo llamo IA impulsada por objetivos. Esta es una especie de arquitectura nueva y no tenemos ninguna demostración de ella por el momento.
¿En eso estás trabajando ahora?
Sí. La idea es que la máquina tiene objetivos que necesita satisfacer y no puede producir nada que no los satisfaga. Esos objetivos podrían incluir barandillas para evitar cosas peligrosas o lo que sea. Así es como se hace que un sistema de IA sea seguro.
¿Crees que vas a vivir para lamentar las consecuencias de la IA que ayudaste a crear?
Si pensara que ese es el caso, dejaría de hacer lo que estoy haciendo.
Eres un gran fanático del jazz. ¿Podría algo generado por la IA igualar la creatividad eufórica y de élite que hasta ahora sólo los humanos pueden producir? ¿Puede producir una obra que tenga alma?
La respuesta es complicada. Sí, en el sentido de que los sistemas de inteligencia artificial eventualmente producirán música (o arte visual, o lo que sea) con una calidad técnica similar a la que los humanos pueden hacer, quizás superior. Pero un sistema de IA no tiene la esencia de la música improvisada, que se basa en la comunicación del estado de ánimo y las emociones de un ser humano. Al menos no todavía. Por eso la música jazz se debe escuchar en directo.