Eso me sonó como si estuviera antropomorfizando esos sistemas artificiales, algo que los científicos constantemente les dicen a los legos y periodistas que no hagan. “Los científicos se esfuerzan por no hacer eso, porque antropomorfizar la mayoría de las cosas es una tontería”, reconoce Hinton. “Pero habrán aprendido esas cosas de nosotros, aprenderán a comportarse lingüísticamente como nosotros. Así que creo que antropomorfizarlos es perfectamente razonable”. Cuando su poderoso agente de IA está capacitado en la suma total del conocimiento digital humano, incluidas muchas conversaciones en línea, puede ser más tonto no esperar que actúe como humano.
Pero, ¿qué pasa con la objeción de que un chatbot nunca podría entender realmente lo que hacen los humanos, porque esos robots lingüísticos son solo impulsos en chips de computadora sin experiencia directa del mundo? Todo lo que están haciendo, después de todo, es predecir la siguiente palabra necesaria para dar una respuesta que satisfaga estadísticamente un mensaje. Hinton señala que incluso nosotros en realidad no te encuentras con el mundo directamente.
“Algunas personas piensan, hey, existe esta última barrera, que es que tenemos experiencia subjetiva y [robots] no, por lo que realmente entendemos las cosas y ellos no”, dice Hinton. “Eso es solo una mierda. Porque para predecir la siguiente palabra, debes entender cuál era la pregunta. No puedes predecir la siguiente palabra sin entender, ¿verdad? Por supuesto, están entrenados para predecir la siguiente palabra, pero como resultado de predecir la siguiente palabra, entienden el mundo, porque esa es la única forma de hacerlo”.
Entonces esas cosas pueden ser… ¿sensibles? No quiero creer que Hinton se está poniendo como Blake Lemoine conmigo. Y no lo es, creo. “Permítanme continuar en mi nueva carrera como filósofo”, dice Hinton, en broma, mientras nos adentramos más en la maleza. “Dejemos la sensibilidad y la conciencia fuera de esto. I en realidad no perciben el mundo directamente. Lo que creo que hay en el mundo no es lo que realmente hay. Lo que pasa es que viene a mi mente, y realmente veo lo que hay en mi mente directamente. Eso es lo que pensaba Descartes. Y luego está la cuestión de cómo se conectan estas cosas en mi mente con el mundo real. ¿Y cómo conozco realmente el mundo real? Hinton continúa argumentando que, dado que nuestra propia experiencia es subjetiva, no podemos descartar que las máquinas puedan tener sus propias experiencias igualmente válidas. “Bajo ese punto de vista, es bastante razonable decir que estas cosas ya pueden tener una experiencia subjetiva”, dice.
Ahora considere las posibilidades combinadas de que las máquinas realmente pueden entender el mundo, pueden aprender engaños y otros malos hábitos de los humanos, y que los sistemas gigantes de IA pueden procesar millones de veces más información de la que posiblemente pueden manejar los cerebros. Tal vez usted, como Hinton, ahora tenga una visión más preocupante de los resultados futuros de la IA.
Pero no estamos necesariamente en un viaje inevitable hacia el desastre. Hinton sugiere un enfoque tecnológico que podría mitigar un juego de poder de la IA contra los humanos: la computación analógica, tal como se encuentra en la biología y como algunos ingenieros creen que deberían funcionar las computadoras del futuro. Fue el último proyecto en el que trabajó Hinton en Google. “Funciona para la gente”, dice. Adoptar un enfoque analógico para la IA sería menos peligroso porque cada instancia de hardware analógico tiene cierta singularidad, razona Hinton. Al igual que con nuestras pequeñas mentes mojadas, los sistemas analógicos no pueden fusionarse tan fácilmente en una especie de colmena de inteligencia de Skynet.