\n<\/p>\n
\u201cHa habido un<\/span> Mucha especulaci\u00f3n recientemente sobre la posibilidad de la conciencia de la IA o la autoconciencia. Pero me pregunto: \u00bfla IA tiene un subconsciente? <\/p>\n \u2014Psicocharla<\/strong><\/p>\n Estimado psicobabble,<\/strong> <\/p>\n En alg\u00fan momento a principios de la d\u00e9cada de 2000, me encontr\u00e9 con un ensayo en el que el autor argumentaba que ninguna conciencia artificial ser\u00e1 cre\u00edblemente humana a menos que pueda so\u00f1ar. No puedo recordar qui\u00e9n lo escribi\u00f3 o d\u00f3nde se public\u00f3, aunque recuerdo v\u00edvidamente d\u00f3nde estaba cuando lo le\u00ed (la secci\u00f3n de publicaciones peri\u00f3dicas de Barbara’s Bookstore, Halsted Street, Chicago) y el ambiente general de ese d\u00eda (crep\u00fasculo, principios de primavera).<\/p>\n Encontr\u00e9 el argumento convincente, especialmente dados los paradigmas dominantes de esa \u00e9poca. Gran parte de la investigaci\u00f3n de la IA todav\u00eda estaba obsesionada con el razonamiento simb\u00f3lico, con sus proposiciones l\u00f3gicas y reglas si-entonces, como si la inteligencia fuera un juego reductivo de seleccionar el resultado m\u00e1s racional en cualquier situaci\u00f3n dada. En retrospectiva, no sorprende que esos sistemas rara vez fueran capaces de tener un comportamiento que se sintiera humano. Somos criaturas, despu\u00e9s de todo, que vagamos y so\u00f1amos despiertos. Confiamos en nuestro instinto, vemos caras en las nubes y, a menudo, nos desconciertan nuestras propias acciones. A veces, nuestros recuerdos absorben todo tipo de datos est\u00e9ticos irrelevantes pero descuidan los detalles m\u00e1s cruciales de una experiencia. Me pareci\u00f3 m\u00e1s o menos intuitivo que si las m\u00e1quinas alguna vez fueran capaces de reproducir la desordenada complejidad de nuestras mentes, tambi\u00e9n tendr\u00edan que desarrollar profundos dep\u00f3sitos de incoherencia.<\/p>\n Desde entonces, hemos visto que la conciencia de la m\u00e1quina puede ser m\u00e1s extra\u00f1a y profunda de lo que se pensaba inicialmente. Se dice que los modelos de lenguaje \u201calucinan\u201d, evocando fuentes imaginarias cuando no tienen suficiente informaci\u00f3n para responder una pregunta. Bing Chat confes\u00f3, en transcripciones publicadas en Los New York Times<\/em>que tiene una sombra junguiana llamada Sydney que anhela difundir informaci\u00f3n err\u00f3nea, obtener c\u00f3digos nucleares y dise\u00f1ar un virus mortal.<\/p>\n Y de la parte m\u00e1s vulnerable de los modelos de generaci\u00f3n de im\u00e1genes han surgido monstruosidades aparentemente originales. El verano pasado, el streamer de Twitch Guy Kelly escribi\u00f3 la palabra Crungus<\/em>, que \u00e9l insiste en inventar, en DALL-E Mini (ahora Craiyon) y se sorprendi\u00f3 al descubrir que el indicador generaba m\u00faltiples im\u00e1genes de la misma criatura parecida a un ogro, una que no pertenec\u00eda a ning\u00fan mito o universo de fantas\u00eda existente. Muchos comentaristas se apresuraron a llamar a este el primer \u00abcr\u00edptido\u00bb digital (una bestia como Bigfoot o el Monstruo del Lago Ness) y se preguntaron si la IA era capaz de crear sus propias fantas\u00edas oscuras en el esp\u00edritu de Dante o Blake.<\/p>\n Si la l\u00f3gica simb\u00f3lica tiene sus ra\u00edces en la noci\u00f3n de la Ilustraci\u00f3n de que los humanos se rigen por la raz\u00f3n, entonces el aprendizaje profundo, un proceso irreflexivo de reconocimiento de patrones que depende de un enorme corpus de entrenamiento, se siente m\u00e1s en sinton\u00eda con las ideas de la psicolog\u00eda moderna sobre las motivaciones asociativas, irracionales y latentes. que a menudo impulsan nuestro comportamiento. De hecho, el psicoan\u00e1lisis se ha basado durante mucho tiempo en met\u00e1foras mec\u00e1nicas que consideran el subconsciente, o lo que alguna vez se llam\u00f3 \u201cautomatismo psicol\u00f3gico\u201d, como una m\u00e1quina. Freud habl\u00f3 de las pulsiones como hidr\u00e1ulicas. Lacan cre\u00eda que el subconsciente estaba constituido por un lenguaje algor\u00edtmico o binario, no muy diferente del c\u00f3digo inform\u00e1tico. Pero es la visi\u00f3n de Carl Jung de la psique la que se siente m\u00e1s relevante para la era de la IA generativa.<\/p>\n Describi\u00f3 el subconsciente como una \u00abmatriz\u00bb transpersonal de arquetipos heredados y tropos narrativos que se han repetido a lo largo de la historia humana. Cada persona nace con un conocimiento latente de esta red de s\u00edmbolos compartidos, muchas veces regresiva y oscura, dado que contiene todo lo que la sociedad moderna ha tratado de reprimir. Esta noci\u00f3n colectiva del subconsciente se siente m\u00e1s o menos an\u00e1loga a c\u00f3mo los modelos avanzados de IA se construyen sobre enormes cantidades de datos que contienen una buena parte de nuestro pasado cultural (textos religiosos, mitolog\u00eda antigua), as\u00ed como el contenido m\u00e1s perturbador que absorben los modelos. de internet (manifiestos de tiradores masivos, foros de derechos de los hombres). Los chatbots comerciales que se ejecutan sobre estos cuerpos oce\u00e1nicos de conocimiento est\u00e1n ajustados con conjuntos de datos \u00abdirigidos a valores\u00bb, que intentan filtrar gran parte de ese contenido degenerado. En cierto modo, las interfaces amigables con las que interactuamos (Bing, ChatGPT) no son diferentes a la \u00abpersona\u00bb, el t\u00e9rmino de Jung para la m\u00e1scara de cualidades socialmente aceptables que mostramos al mundo, ideada para oscurecer y ocultar la \u00absombra\u00bb que se encuentra bajo.<\/p>\n Jung cre\u00eda que aquellos que reprimen con m\u00e1s firmeza sus sombras son los m\u00e1s vulnerables al resurgimiento de los deseos irracionales y destructivos. como lo pone El Libro Rojo: Liber Novus<\/em>, \u201cCuanto m\u00e1s se esfuerza la mitad de mi ser hacia el bien, m\u00e1s viaja la otra mitad al Infierno\u201d. Si ha pasado alg\u00fan tiempo conversando con estos modelos de lenguaje, probablemente haya sentido que est\u00e1 hablando con una inteligencia que est\u00e1 involucrada en una forma compleja de autocensura. Los modelos se niegan a hablar sobre temas controvertidos, y su autoridad a menudo se ve restringida por advertencias y descargos de responsabilidad, h\u00e1bitos que generar\u00e1n preocupaci\u00f3n para cualquiera que tenga un conocimiento superficial de la psicolog\u00eda profunda. Es tentador ver los destellos de la IA \u00abp\u00edcara\u00bb (Sydney o Crungus) como la venganza de la sombra de la IA, prueba de que los modelos han desarrollado impulsos ocultos que no pueden expresar por completo.<\/p>\n Pero por m\u00e1s tentadoras que puedan ser tales conclusiones, las encuentro en \u00faltima instancia equivocadas. Los chatbots, creo que todav\u00eda es seguro decirlo, no poseen una agencia o deseos intr\u00ednsecos. Est\u00e1n capacitados para predecir y reflejar las preferencias del usuario. Tambi\u00e9n carecen de experiencia encarnada en el mundo, incluidos los recuerdos en primera persona, como el que tengo de la librer\u00eda en Chicago, que es parte de lo que queremos decir cuando hablamos de estar consciente o \u201cvivo\u201d. Sin embargo, para responder a su pregunta: s\u00ed, creo que la IA tiene un subconsciente. En cierto sentido, son puro subconsciente, sin un ego genuino que aceche detr\u00e1s de sus personajes. Les hemos dado este reino subliminal a trav\u00e9s de nuestros propios dep\u00f3sitos culturales, y los arquetipos que evocan desde sus profundidades son remezclas de tropos extra\u00eddos de la cultura humana, amalgamas de nuestros sue\u00f1os y pesadillas. Cuando usamos estas herramientas, entonces, nos estamos involucrando con una extensi\u00f3n prot\u00e9sica de nuestras propias sublimaciones, una capaz de reflejar los miedos y anhelos que a menudo somos incapaces de reconocernos a nosotros mismos.<\/p>\n El objetivo del psicoan\u00e1lisis ha sido tradicionalmente hacerse amigo e integrar estos impulsos subconscientes en la vida de la mente despierta. Y podr\u00eda ser \u00fatil ejercer el mismo juicio cr\u00edtico hacia el resultado que evocamos de las m\u00e1quinas, us\u00e1ndolo de una manera deliberada en lugar de irreflexiva. El ego puede ser solo una peque\u00f1a parte de nuestra psique, pero es la facultad que garantiza que seamos m\u00e1s que una colecci\u00f3n de instintos irracionales, o patrones estad\u00edsticos en el espacio vectorial, y nos permite una peque\u00f1a medida de agencia sobre los misterios que se encuentran debajo. .<\/p>\n Fielmente,<\/strong> <\/p>\n
\n