Mientras se habla de la familia de músicos Jackson, el chatbot explicado a un usuario de Reddit que “Schwittendly, el brillo del tourmar en la cresta tiene tanto que ver con el golver del ‘caminos lunares a medida que pasa de seguir «.
A las 10:40 p.m. ET, OpenAI reconocido en su página de estado que estaba «investigando informes de respuestas inesperadas de ChatGPT» y unos minutos más tarde dijo que había encontrado el problema y estaba trabajando para solucionarlo.
Al momento de escribir este artículo, la página de estado todavía presenta un cuadro con borde amarillo en la parte superior que dice que la compañía «continúa monitoreando la situación». Muchos de los errores se parecen a un meme común de las redes sociales que pide a otros que escriban una palabra en su teléfono y luego tocan repetidamente la misma sugerencia de siguiente palabra para ver qué sucede. Lo cual tiene sentido: los modelos de lenguaje grandes son esencialmente textos predictivos muy sofisticados.
Tome estos ejemplos con una buena dosis de sal: después de todo, es muy fácil para los trolls crear sus propias imágenes como esta. Pero hay algunos hilos comunes en las publicaciones de las redes sociales que informan sobre el problema, como que ChatGPT se queda atascado en un bucle. En las imágenes de arriba, por ejemplo, ChatGPT parecía repetir «.¡Feliz escucha!🎶» y «Lo es, y lo es». por un tiempo antes de que dejara de generar una respuesta.
Los usuarios de Reddit tienen reportado problemas similares en el pasado. Nos comunicamos con OpenAI para obtener más información sobre el mal funcionamiento.
Es un buen recordatorio de que los chatbots de IA generativa son una tecnología que avanza rápidamente y, lo que es más, los grandes modelos de lenguaje que los impulsan son esencialmente cajas negras que incluso sus creadores no entiendo del todo de una manera extremadamente detallada. Operan buscando patrones en los datos y luego haciendo sus mejores conjeturas sobre cómo responder a la información, y esto generalmente conduce a resultados impresionantes. Pero también puede producir alucinaciones, manipulación emocionale incluso pereza.