Como primer invento técnico, la inteligencia artificial puede afectar directamente la conciencia humana. Las oportunidades de abuso no conocen límites.
El mundo a través de los lentes de AI: La inexperiencia está fuera de lugar aquí. Escena de «2001. Una odisea del espacio (1968).
Apenas una escena de la película de ciencia ficción de época «2001. Una odisea en el espacio» es más expresiva que la del principio, en la que un gran simio juega accidentalmente con huesos, pero a la sombra de un monolito negro se da cuenta de repente de que un hueso puede ser un arma.
Desde el exterior, todo ha permanecido igual: un mono sostiene un hueso. En realidad, ya nada es igual: un animal hurgando con huesos es un ser completamente diferente a un mono que busca deliberadamente un arma poderosa. Esto pronto se vuelve evidente para sus competidores alimentarios, o nuevo: su presa.
La secuencia de la película ilustra de manera impresionante el hecho de que el núcleo del genio humano no se encuentra tanto en el individuo como en sus artefactos. En cambio, simplemente requiere el enredo de la conciencia y la tecnología; Es sólo a partir de esto que crece el fenómeno de la civilización, con el que estamos tan familiarizados. Pero la escena de la película de 1968 de Stanley Kubrick también conlleva una advertencia: no es casualidad que la «tecnología ósea» esté a punto de convertirse en un arma.
Todavía en la fase de juego
En lo que respecta al chat GPT y otras aplicaciones de inteligencia artificial (IA) que actualmente se están extendiendo a nivel mundial, todavía estamos en la fase lúdica, en otras palabras: estamos tirando huesos por todos lados como un experimento. Nuestras primeras reacciones a la nueva tecnología son impotentes. O apuntan a los resultados anteriores: ¡la IA alucina! ¡Ella comete errores! ¡Pasa el test de Turing! O cunde el pánico ante la previsible erosión de campos enteros de actividad: los académicos se quejan del fin de la capacidad de escribir, los artistas temen a la alta competencia, los periodistas se quejan de la nueva tecnología de IA.
Varios factores se suman a la confusión actual. Así es como la IA generativa logró llegar a 100 millones de usuarios en solo dos meses: nunca antes una tecnología se había afianzado tan rápido. Además, la velocidad del ciclo del producto es impresionante: Chat-GPT-3 se lanzó en noviembre de 2022, seguido solo cuatro meses después por la versión 4, un modelo significativamente mejor que puede procesar texto, imágenes, video y audio simultáneamente.
Sin embargo, lo más importante es el hecho de que la IA generativa se relaciona con las personas de una manera sin precedentes: a diferencia de las herramientas de hueso, los ferrocarriles o los automóviles, nos habla directamente a través de las palabras, la música y el arte. Surge la pregunta: si el mono con el agarre en el hueso se convierte en un guerrero, ¿cómo cambiarán las personas y la sociedad mediante el uso de la IA?
Un viejo sueño de control
La tecnología tiene precursores; la Unión Soviética ya estaba trabajando en el “control reflexivo” de sus ciudadanos. El objetivo era alinear los puntos de vista de las personas con los intereses del estado, y al mismo tiempo dejar que las personas se sintieran libres de elegir entre diferentes opciones. Sin embargo, en ese momento ni la base científica ni la tecnología en sí estaban suficientemente desarrolladas; siguió siendo un sueño.
Hoy la situación es diferente. Los avances en la economía del comportamiento, la psicología evolutiva y la neurociencia han ampliado drásticamente el conocimiento. Esto también tiene aplicaciones prácticas, acelerando los avances tecnológicos al igual que influye dramáticamente en los desarrollos institucionales en todo, desde las redes sociales hasta la tecnología financiera y las herramientas de vigilancia. El resultado es un tsunami rodante de nuevos métodos y herramientas que explotan nuestros sesgos cognitivos con fines comerciales y geopolíticos.
Que el sueño (o pesadilla) del control reflexivo se está volviendo cada vez más real se ha dejado claro antes. Los individuos ven cada vez más su identidad como un patio de recreo sin límites; al mismo tiempo, las cuestiones de identidad se han convertido en el lugar de los conflictos sociales. A lo largo de narrativas compartidas emergen nuevas identidades tribales abiertas a la manipulación. Tratar de mantenerse al día con todas las tendencias ya está empujando a los ciudadanos, la sociedad y las instituciones a su punto de ruptura o incluso más allá.
La rueda del desarrollo de la IA ahora está girando tan rápido que cualquier reacción psicológica o institucional significativa es en vano. El desarrollo tecnológico es casi imparable: la competencia de IA entre empresas y entre países ya no se trata de dinero o estatus: la gente teme por su propia supervivencia. Como dijo Vladimir Putin en 2017: “Quien se convierte en líder en esta área (IA) se convierte en el gobernante del mundo”.
Lo que entonces era una suposición ahora se está convirtiendo en realidad; De hecho, la IA generativa actual puede producir cualquier forma de desinformación: texto, memes, imágenes, grabaciones de voz, videos falsos o incluso arte. Grandes cantidades de datos hacen posible modelar la psicología de masas, y las redes sociales permiten el engaño a medida a nivel individual.
Desinformación a medida
La Ilustración recomendaba la libertad de expresión como remedio contra la ignorancia, la mentira y el error. Siempre ha habido algo idealista en este concepto, pero el principio de libertad de expresión en la sociedad abierta se derrumba cuando la información se puede adaptar a individuos o grupos pequeños y se puede utilizar como arma. Tecnologías como los juegos de ordenador y las realidades virtuales son perfectas para recopilar datos, crear perfiles psicológicos y promover la desinformación. En un futuro cercano, la mayoría de las personas se separarán psicológicamente de cualquier tipo de realidad y vivirán sus vidas detrás de las gruesas e invisibles rejas de su identidad tribal establecida.
Las consecuencias de ello dependerán de la respectiva forma de gobierno. Por ejemplo, si la IA generativa se integra en el sistema de crédito social chino y el monitoreo allí, tiene el potencial de compensar las debilidades clásicas del gobierno autoritario. Proporciona información detallada sobre desarrollos en tiempo real, y especialmente sobre aquellos que los subordinados asustados prefieren no contarles a sus superiores. Al mismo tiempo, la IA proporciona medios técnicos con los que se puede controlar el comportamiento de los ciudadanos.
Esto debería resultar en un fortalecimiento de los gobiernos autoritarios, al menos en el corto plazo. Sin embargo, a más largo plazo, los efectos son mucho menos previsibles. Podría ser que los efectos de red dinámicos, complejos y a favor de la descentralización pongan bajo presión cualquier tipo de control centralizado.
consecuencias para las democracias
Para las sociedades pluralistas, sin embargo, se esperan consecuencias completamente diferentes. El individuo, como elemento clave de cualquier legitimidad democráticamente constituida, tiene una importancia crucial para la cultura occidental. Su posición está en peligro cuando el individuo es solo un peón en el campo de la desinformación de la IA. Las identidades tribales se convierten en ejes de la vida política, al igual que la capacidad de influir en sus respectivas narrativas. Como resultado, los principios de la política estatal, como la igualdad ante la ley, podrían desmoronarse. Lo mismo ocurre con las instituciones y estructuras sociales cuyo propósito es preservar estos logros de la Ilustración.
No se debe subestimar el alcance de la convulsión marcada por la nueva IA. La imprenta una vez cambió el mundo; hizo posible la Reforma, fue de la mano de 150 años de guerras religiosas y religiosas, condujo a la Ilustración y trastornó radicalmente el mapa de Europa. Si los escenarios de IA descritos no se convierten en una realidad distópica, deben analizarse en profundidad, ahora mismo.
braden allenby es profesor de ética e ingeniería en la Universidad Estatal de Arizona. – Del americano de mml.