ChatGPTla interfaz muy popular deinteligencia artificial (IA) El generativo que dio a conocer esta tecnología, estuvo desbloqueado durante varias horas el martes, respondiendo a las preguntas de los usuarios con frases sin sentido, un recordatorio de que estos sistemas aún están en su infancia. Abierto AI, la startup que lanzó el programa a finales de 2022, indicó el miércoles por la mañana en su sitio que ChatGPT volvía a funcionar “normalmente”. El martes por la tarde, hora de San Francisco, donde reside, anunció «investigando informes de respuestas inesperadas de ChatGPT». Unos minutos más tarde, la empresa estrella de Silicon Valley aseguró que había “identificado el problema” y “estaba en proceso de resolverlo”.
«Señal de alarma»
Muchos usuarios han subido capturas de pantalla que muestran respuestas erráticas o incomprensibles del modelo de IA generativa. Esta tecnología de vanguardia permite producir todo tipo de contenidos (textos, sonidos, vídeos), normalmente de sorprendente calidad, previa solicitud en el lenguaje cotidiano. En el foro para desarrolladores que utilizan herramientas OpenAI, un usuario llamado «IYAnepo» notó el comportamiento «extraño» de ChatGPT.
“Genera palabras completamente inexistentes, omite palabras y produce secuencias de pequeñas palabras clave que me resultan ininteligibles, entre otras anomalías”, afirmó. «Se podría pensar que yo había especificado tales instrucciones, pero ese no es el caso. Siento como si mi GPT estuviera embrujado (…)». Otro usuario, «scott.eskridge», se quejó en este mismo foro de que todas sus conversaciones con el modelo lingüístico «se han ido convirtiendo rápidamente en tonterías durante las últimas tres horas». Copió un extracto de una de las respuestas de la interfaz: «Dinero para el bit y la lista es uno de los extraños e Internet donde la moneda y la persona del costo es uno de los amigos y la moneda. La próxima vez que mires En el sistema, el intercambio y el hecho, no olvides dar.»
OpenAI no proporcionó más detalles sobre la naturaleza del incidente, lo que nos recuerda que la IA, incluso generativa, no tiene conciencia ni comprensión de lo que «dice». El especialista en inteligencia artificial Gary Marcus espera que el incidente sea visto como una “llamada de atención”. «Estos sistemas nunca han sido estables. Nadie ha podido nunca crear garantías de seguridad en torno a estos sistemas», escribió en su boletín del martes. «La necesidad de tecnologías completamente diferentes, menos opacas, más interpretables, más fáciles de mantener y depurar -y por tanto más fáciles de implementar- sigue siendo primordial», añadió.