Sébastien Bubeck, un investigador de aprendizaje automático en Microsoft, se despertó una noche en septiembre pasado pensando en inteligencia artificial y unicornios.
Recientemente, Bubeck obtuvo acceso temprano a GPT-4, un poderoso algoritmo de generación de texto de OpenAI y una actualización del modelo de aprendizaje automático en el corazón del popular chatbot ChatGPT. Bubeck formó parte de un equipo que trabajaba para integrar el nuevo sistema de inteligencia artificial en el motor de búsqueda Bing de Microsoft. Pero él y sus colegas seguían maravillándose de lo diferente que parecía el GPT-4 de todo lo que habían visto antes.
GPT-4, al igual que sus predecesores, recibió grandes cantidades de texto y código y se entrenó para usar los patrones estadísticos en ese corpus para predecir las palabras que deberían generarse en respuesta a una entrada de texto. Pero para Bubeck, la salida del sistema parecía hacer mucho más que hacer conjeturas estadísticamente plausibles.
Esa noche, Bubeck se levantó, fue a su computadora y le pidió a GPT-4 que dibujara un unicornio usando TikZ, un lenguaje de programación relativamente oscuro para generar diagramas científicos. Bubeck estaba usando una versión de GPT-4 que solo funcionaba con texto, no con imágenes. Pero el código que le presentó el modelo, cuando se introdujo en un software de renderizado TikZ, produjo una imagen tosca pero claramente de unicornio improvisada a partir de óvalos, rectángulos y un triángulo. Para Bubeck, tal hazaña seguramente requería una comprensión abstracta de los elementos de tal criatura. “Algo nuevo está sucediendo aquí”, dice. “Quizás por primera vez tenemos algo que podríamos llamar inteligencia”.
Qué tan inteligente se está volviendo la IA y cuánto confiar en lo cada vez más común sentimiento que una pieza de software es inteligente, se ha convertido en una pregunta apremiante, casi inductora de pánico.
Después de que OpenAI lanzara ChatGPT, entonces impulsado por GPT-3, en noviembre pasado, sorprendió al mundo con su capacidad para escribir poesía y prosa sobre una amplia gama de temas, resolver problemas de codificación y sintetizar conocimiento de la web. Pero el asombro se ha sumado a la conmoción y la preocupación por el potencial de fraude académico, desinformación y desempleo masivo, y temores de que compañías como Microsoft se apresuren a desarrollar tecnología que podría resultar peligrosa.
Comprender el potencial o los riesgos de las nuevas habilidades de la IA significa tener una idea clara de cuáles son y cuáles no son esas habilidades. Pero si bien existe un amplio acuerdo de que ChatGPT y sistemas similares brindan a las computadoras nuevas habilidades significativas, los investigadores apenas comienzan a estudiar estos comportamientos y determinar qué sucede detrás del aviso.
Si bien OpenAI ha promovido GPT-4 al promocionar su desempeño en los exámenes de la escuela de medicina y de la barra, los científicos que estudian aspectos de la inteligencia humana dicen que sus notables capacidades difieren de las nuestras en aspectos cruciales. Es bien conocida la tendencia de los modelos a inventarse cosas, pero la divergencia es más profunda. Y con millones de personas que usan la tecnología todos los días y empresas que apuestan su futuro en ella, este es un misterio de gran importancia.
Chispas de desacuerdo
Bubeck y otros investigadores de IA en Microsoft se inspiraron para meterse en el debate por sus experiencias con GPT-4. Unas semanas después de que el sistema se conectara a Bing y se lanzara su nueva función de chat, la compañía publicó un documento que afirmaba que en los primeros experimentos, GPT-4 mostró «chispas de inteligencia artificial general».
Los autores presentaron una dispersión de ejemplos en los que el sistema realizó tareas que parecen reflejar una inteligencia más general, significativamente más allá de los sistemas anteriores como GPT-3. Los ejemplos muestran que, a diferencia de la mayoría de los programas de IA anteriores, GPT-4 no se limita a una tarea específica, sino que puede resolver todo tipo de problemas, una cualidad necesaria de la inteligencia general.