La tensión y la confusión han hecho que la asociación entre Microsoft y OpenAI sea «incómoda», revelaron hoy personas familiarizadas con el asunto en un informe del Wall Street Journal.
Esta tensión y confusión no solo se ha extendido al equipo interno de inteligencia artificial de Microsoft, que aparentemente está lidiando con recortes presupuestarios y acceso limitado a la tecnología OpenAI, sino que las fuentes dijeron que también nubló el controvertido lanzamiento de Microsoft de la búsqueda de Bing impulsada por inteligencia artificial en febrero pasado. En ese momento, se descubrió que Bing era vulnerable a los ataques de inyección rápida que revelaban secretos de la empresa y brindaban respuestas a veces inexactas y verdaderamente desquiciadas a las solicitudes de los usuarios.
Según WSJ, OpenAI advirtió a Microsoft «sobre los peligros de apresurarse a integrar la tecnología de OpenAI sin capacitarla más» y «sugirió que Microsoft avance más lentamente en la integración de su tecnología de IA con Bing». Una de las principales preocupaciones de OpenAI era que el chatbot de Bing, Sydney, podría dar respuestas inexactas o desquiciadas, pero Microsoft aparentemente ignoró fácilmente esta advertencia temprana.
En una entrevista de Wired publicada hoy, el director ejecutivo de Microsoft, Satya Nadella, sugirió que cualquier contratiempo con Sydney al principio era solo parte del plan de Microsoft para entrenar al chatbot para que respondiera a indicaciones del mundo real que no podían probarse en un laboratorio.
«No lanzamos Sydney con GPT-4 el primer día que lo vi, porque tuvimos que trabajar mucho para construir un arnés de seguridad», dijo Nadella a Wired. «Pero también sabíamos que no podíamos hacer toda la alineación en el laboratorio. Para alinear un modelo de IA con el mundo, debe alinearlo en el mundo y no en alguna simulación».
De todos modos, esa es en parte la razón por la que Microsoft se apresuró, pero las fuentes le dijeron a WSJ que la prisa también se debió en parte a los ejecutivos de Microsoft que tenían «dudas sobre el momento del lanzamiento de ChatGPT el otoño pasado».
Debido a que OpenAI comenzó las pruebas públicas de ChatGPT mientras Microsoft aún estaba trabajando en la integración de la tecnología OpenAI en Bing, la tensión aparentemente aumentó entre los socios, quienes también se presentaron como rivales en una carrera de IA para captar la atención del mundo.
A medida que crecía el éxito de ChatGPT, algunos empleados de Microsoft expresaron su preocupación de que ChatGPT estaba robando el «trueno» de Bing, informó WSJ. Otros postularon con sensatez que Microsoft podría aprender lecciones valiosas antes del lanzamiento de Bing a partir de las primeras pruebas públicas de ChatGPT. Si bien Microsoft vio cómo su socio se hacía cada vez más popular cada minuto, es fácil ver por qué la compañía puso más urgencia en el lanzamiento de Bing impulsado por IA. El interés público en la tecnología estaba ahí y Microsoft quería ser una parte más importante de la conversación.
Por supuesto, ChatGPT finalmente ganó la carrera de IA, atrayendo instantáneamente a la base de usuarios de más rápido crecimiento en la historia. Mientras tanto, «el nuevo Bing», lanzado un mes después, «aún no se ha acercado al éxito rotundo de ChatGPT», informó WSJ. Citando datos de la firma de análisis YipitData, WSJ informó que ChatGPT «tiene casi el doble del número promedio de sesiones de búsqueda diarias que la búsqueda de Bing». YipitData informó que ChatGPT alcanzó los 200 millones de usuarios mensuales, mientras que Bing alcanzó los 100 millones de usuarios activos diarios en marzo.
ChatGPT y Bing fueron posteriormente criticados por lanzar chatbots culpables de inventar cosas, mentir y otros problemas que muchos usuarios no esperaban encontrar. OpenAI todavía está buscando formas de limitar las llamadas «alucinaciones» de los chatbots, informó CNBC en mayo. En febrero, Microsoft tuvo que actualizar Bing para limitar las conversaciones largas hasta que la empresa pudiera encontrar una mejor solución. Sin embargo, incluso después de trabajar en el tema durante meses, The Verge informó que, si bien Bing puede responder con menos arrebatos desquiciados durante conversaciones largas, «todavía a menudo se equivoca».
Nadella le dijo a Wired que Microsoft ha encontrado «cosas muy prácticas que reducen las alucinaciones» y que aparentemente sirven como un recurso provisional hasta que la tecnología mejore y surjan nuevas soluciones.
Sin embargo, Nadella también dijo que a veces las «alucinaciones» son deseables, y cualquier solución para limitar las «alucinaciones» debe tener en cuenta que los usuarios también deben mantener la opción de usar chatbots de IA con fines creativos.
OpenAI no respondió de inmediato a la solicitud de comentarios de Ars. Un portavoz de Microsoft le dijo a Ars que otra razón por la cual la compañía lanzó la nueva vista previa de Bing fue para responder a la mitad de todas las búsquedas web estándar que generalmente quedan sin respuesta. Microsoft también busca continuamente mejorar la autoridad y la credibilidad de los resultados web que respaldan su respuesta en modo chat, dijo el vocero, y está preparado para solucionar rápidamente los problemas imprevistos que surjan.
“Nuestro enfoque es hacer que las herramientas de inteligencia artificial estén disponibles para las personas de manera responsable con medidas de seguridad para que podamos obtener comentarios, continuar aprendiendo y mejorar rápidamente estas herramientas, como lo hemos hecho con Bing”, dijo el portavoz de Microsoft a Ars.