Que diferencia Hace siete días en el mundo de la IA generativa.
La semana pasada, Satya Nadella, CEO de Microsoft, le decía alegremente al mundo que el nuevo motor de búsqueda Bing con infusión de inteligencia artificial «haría bailar a Google» al desafiar su dominio de larga data en la búsqueda web.
El nuevo Bing usa una pequeña cosa llamada ChatGPT, es posible que haya oído hablar de él, que representa un salto significativo en la capacidad de las computadoras para manejar el lenguaje. Gracias a los avances en el aprendizaje automático, esencialmente descubrió por sí mismo cómo responder a todo tipo de preguntas engullendo billones de líneas de texto, gran parte de ellas extraídas de la web.
Google, de hecho, bailó al ritmo de Satya al anunciar Bard, su respuesta a ChatGPT, y prometió usar la tecnología en sus propios resultados de búsqueda. Baidu, el motor de búsqueda más grande de China, dijo que estaba trabajando en una tecnología similar.
Pero Nadella podría querer ver a dónde lo lleva el elegante juego de pies de su compañía.
En las demostraciones que dio Microsoft la semana pasada, Bing parecía capaz de usar ChatGPT para ofrecer respuestas complejas y completas a las consultas. Elaboró un itinerario para un viaje a la Ciudad de México, generó resúmenes financieros, ofreció recomendaciones de productos que recopilaron información de numerosas reseñas y ofreció consejos sobre si un mueble cabría en una minivan comparando las dimensiones publicadas en línea.
WIRED tuvo algo de tiempo durante el lanzamiento para poner a prueba a Bing, y si bien parecía hábil para responder muchos tipos de preguntas, definitivamente tenía fallas e incluso no estaba seguro de su propio nombre. Y como notó un experto, algunos de los resultados que mostró Microsoft fueron menos impresionantes de lo que parecían al principio. Bing pareció inventar cierta información sobre el itinerario de viaje que generó, y omitió algunos detalles que probablemente nadie omitiría. El motor de búsqueda también confundió los resultados financieros de Gap al confundir el margen bruto con el margen bruto no ajustado, un grave error para cualquiera que confíe en el bot para realizar lo que podría parecer la tarea simple de resumir los números.
Han surgido más problemas esta semana, ya que el nuevo Bing se ha puesto a disposición de más probadores beta. Parecen incluir discutiendo con un usuario sobre qué año es y viviendo una crisis existencial cuando se le empuja a demostrar su propia sensibilidad. La capitalización de mercado de Google se redujo en la asombrosa cantidad de $ 100 mil millones después de que alguien notó errores en las respuestas generadas por Bard en el video de demostración de la compañía.
¿Por qué estos titanes tecnológicos cometen tales errores? Tiene que ver con la forma extraña en que ChatGPT y modelos de IA similares realmente funcionan, y la extraordinaria exageración del momento actual.
Lo que es confuso y engañoso sobre ChatGPT y modelos similares es que responden preguntas haciendo conjeturas altamente informadas. ChatGPT genera lo que cree que debe seguir a su pregunta en función de representaciones estadísticas de caracteres, palabras y párrafos. La puesta en marcha detrás del chatbot, OpenAI, perfeccionó ese mecanismo central para brindar respuestas más satisfactorias al hacer que los humanos brinden comentarios positivos cada vez que el modelo genera respuestas que parecen correctas.
ChatGPT puede ser impresionante y entretenido, porque ese proceso puede producir la ilusión de comprensión, lo que puede funcionar bien para algunos casos de uso. Pero el mismo proceso «alucinará» con información falsa, un problema que puede ser uno de los desafíos más importantes en tecnología en este momento.
La intensa exageración y la expectativa que giran en torno a ChatGPT y bots similares aumentan el peligro. Cuando las nuevas empresas bien financiadas, algunas de las empresas más valiosas del mundo y los líderes tecnológicos más famosos dicen que los chatbots son la próxima gran novedad en la búsqueda, muchas personas lo tomarán como un evangelio, lo que alentará a los que comenzaron a charlar a redoblar sus esfuerzos con más predicciones de la omnisciencia de la IA. No solo los chatbots pueden desviarse por la coincidencia de patrones sin verificar los hechos.