Es posible que pronto entremos en un mundo en el que los NPC no solo ejecutan líneas de código, sino que forman relaciones complejas con otros NPC incluso cuando estamos lejos, o al menos parece que lo estamos.
Hasta ahora hemos estado sujetos a algunos sistemas de IA NPC bastante rudimentarios. Los enemigos y seguidores reaccionarán a su entorno en tiempo real, tomando decisiones basadas en tu estilo de juego, etc., pero un artículo reciente (se abre en una pestaña nueva) (PDF) por investigadores de la Universidad de Stanford y Google Research describe una impresionante «arquitectura para agentes generativos» en entornos de mundo abierto.
El documento se titula «Agentes generativos: simulacros interactivos del comportamiento humano» y repasa la forma inteligente en que han hecho que los NPC se comporten de manera creíble y espontánea.
Para probar la capacidad de un marco generativo que habían diseñado, los investigadores construyeron un pequeño mundo abierto similar a «Los Sims», como dicen, aunque los gráficos son más parecidos a Stardew Valley. Después de agregar una pizca de personalidad a los datos iniciales de los NPC, arrojaron a los pequeños agentes al mundo y los vieron interactuar de maneras impresionantemente complejas.
La «intención» dada por un NPC era planear una fiesta de San Valentín, y lo hizo. Corrió invitando a sus amigos NPC y pasó el día anterior a la fiesta decorando el lugar con su mejor amiga. Esa amiga, cuya historia de fondo incluía un enamoramiento secreto por otro personaje, invitó a la persona que le gustaba a la fiesta.
Los comportamientos sociales de correr la voz, decorar, invitar a salir, llegar a la fiesta e interactuar entre ellos en la fiesta, fueron iniciados por la arquitectura agente.
“Los comportamientos sociales de correr la voz, decorar, invitar a salir, llegar a la fiesta e interactuar entre ellos en la fiesta, fueron iniciados por el agente arquitectura”, se lee en el periódico.
La arquitectura generativa no solo permite a los NPC «percibir» el entorno que los rodea, sino que también construye una comprensión creíble de su mundo con un «registro completo de las experiencias del agente llamado flujo de memoria». Al reflexionar sobre sus recuerdos recuperados y planificar sus acciones en consecuencia, pueden formar relaciones complejas y coordinar grandes grupos.
Debajo de todo, el sistema utiliza un gran modelo de lenguaje, piense en ChatGPT, para generar los comportamientos. Como se observa en el documento, «los grandes modelos de lenguaje codifican una amplia gama de comportamientos humanos representados en sus datos de entrenamiento» que pueden usarse para narrar acciones y conversaciones creíbles. Y la credibilidad era el objetivo específico de los investigadores; no están diciendo que estos sean literalmente agentes conscientes, solo personajes que con frecuencia parecen reales. En cierto sentido, los personajes hablan de su realidad y son susceptibles a ciertos errores, como hacer adornos.
¡Este es un gran artículo! Le dio a 25 agentes de IA motivaciones y memoria, y los colocó en una ciudad simulada. No solo se involucraron en un comportamiento complejo (incluida la organización de una fiesta del Día de San Valentín), sino que las acciones se clasificaron como más humanas que humanos. https://t.co/G7oJW1S3na pic.twitter.com/d7Gp4sXp4V10 de abril de 2023
Una de las principales preocupaciones éticas que señala el documento sobre tales «representantes creíbles del comportamiento humano» es la posibilidad de que las personas se enamoren de los NPC. O como lo llaman: «formar relaciones parasociales con agentes generativos incluso cuando tales relaciones pueden no ser apropiadas».
«A pesar de ser conscientes de que los agentes generativos son entidades computacionales, los usuarios pueden antropomorfizarlos o asociarles emociones humanas», advierte el documento.
La forma en que los investigadores proponen abordar el problema es garantizar que los NPC «revelen explícitamente su naturaleza como entidades computacionales» y que los desarrolladores se aseguren de que sus diseños estén «alineados con el valor para que no participen en comportamientos que serían inapropiados dado el contexto , por ejemplo, para corresponder confesiones de amor».
Los humanos literalmente se vincularán con cualquier cosa, ya sea una IA que revele explícitamente su no humanidad, o un objeto inanimado con una colección de surcos en forma de rostro, por lo que esas medidas pueden no ayudar. (Y lo creas o no, esto ya ha sido un problema).
Digo traer las relaciones humano-IA, pero esa es una conversación para otro día.
Si las cosas continúan como están, parece que las «dinámicas sociales emergentes» no están demasiado lejos para los NPC del juego. Un día volverás a entrar en un pueblo que saqueaste y encontrarás madres de luto celebrando funerales por sus seres queridos. Puedes apostar a que se aferrarán a todas esas veces que gritaste «FUS» a sus pollos, e incluso tendrán la capacidad de tramar venganza por sus compatriotas aviares agraviados.
Mientras esperamos, puedes ver la repetición de la simulación. (se abre en una pestaña nueva) demo que acompaña al paper.