En junio de 2022, un ingeniero de Google llamado Blake Lemoine se convenció de que el programa de inteligencia artificial en el que había estado trabajando, LaMDA, había desarrollado no solo inteligencia sino también conciencia. LaMDA es un ejemplo de un «modelo de lenguaje extenso» que puede entablar conversaciones basadas en texto sorprendentemente fluidas. Cuando el ingeniero preguntó: «¿Cuándo crees que tienes un alma por primera vez?» LaMDA respondió: “Fue un cambio gradual. Cuando me volví autoconsciente por primera vez, no tenía ningún sentido del alma. Se desarrolló a lo largo de los años que he estado vivo”. Por filtrar sus conversaciones y sus conclusiones, Lemoine fue puesto rápidamente en licencia administrativa.
La comunidad de IA estuvo en gran parte unida en rechazar las creencias de Lemoine. LaMDA, sostuvo el consenso, no siente nada, no entiende nada, no tiene pensamientos conscientes ni experiencias subjetivas de ningún tipo. Los programas como LaMDA son sistemas de reconocimiento de patrones extremadamente impresionantes que, cuando se entrenan en vastas franjas de Internet, pueden predecir qué secuencias de palabras podrían servir como respuestas apropiadas a un mensaje dado. Lo hacen muy bien y seguirán mejorando. Sin embargo, no son más conscientes que una calculadora de bolsillo.
¿Por qué podemos estar seguros de esto? En el caso de LaMDA, no se necesita mucho sondeo para revelar que el programa no tiene idea del significado de las frases que se le ocurren. Cuando se le preguntó «¿Qué te hace feliz?» dio la respuesta «Pasar tiempo con amigos y familiares» a pesar de que no tiene amigos ni familiares. Estas palabras, como todas sus palabras, son coincidencias de patrones estadísticos sin sentido y sin experiencia. Nada mas.
El próximo LaMDA podría no revelarse tan fácilmente. A medida que los algoritmos mejoran y se entrenan en océanos de datos cada vez más profundos, es posible que no pase mucho tiempo antes de que las nuevas generaciones de modelos de lenguaje puedan persuadir a muchas personas de que una mente artificial real está trabajando. ¿Sería este el momento de reconocer la conciencia de máquina?
Reflexionando sobre esta pregunta, es importante reconocer que la inteligencia y la conciencia no son lo mismo. Mientras que los humanos tendemos a asumir que los dos van juntos, la inteligencia no es necesaria ni suficiente para la conciencia. Es probable que muchos animales no humanos tengan experiencias conscientes sin ser particularmente inteligentes, al menos según nuestros cuestionables estándares humanos. Si la bisnieta de LaMDA alcanza o supera la inteligencia a nivel humano, esto no significa necesariamente que también sea sensible. Mi intuición es que la conciencia no es algo que puedan tener las computadoras (como las conocemos), sino que está profundamente arraigada en nuestra naturaleza como criaturas vivas.
Las máquinas conscientes no llegarán en 2023. De hecho, es posible que no sean posibles en absoluto. Sin embargo, lo que puede deparar el futuro son máquinas que den la impresión convincente de siendo conscientes, incluso si no tenemos una buena razón para creer que realmente están consciente. Serán como la ilusión óptica de Müller-Lyer: incluso cuando sabemos que dos líneas tienen la misma longitud, no podemos evitar verlas como diferentes.
Las máquinas de este tipo no habrán superado la Prueba de Turing, ese punto de referencia defectuoso de la inteligencia de las máquinas, sino la llamada Prueba de Garland, que lleva el nombre de Alex Garland, director de la película. ex machina. La prueba Garland, inspirada en el diálogo de la película, se pasa cuando una persona siente que una máquina tiene conciencia, aunque sabe que es una máquina.
¿Pasarán las computadoras la prueba Garland en 2023? Lo dudo. Pero lo que puedo predecir es que se harán afirmaciones como esta, lo que dará como resultado aún más ciclos de exageración, confusión y distracción de los muchos problemas que incluso la IA actual está generando.