Los seres humanos son agotadores y Bing, impulsado por IA de Microsoft, ya está harto de nosotros.
Al menos esa es la explicación que ofrece Redmond de por qué su motor de búsqueda mejorado con ChatGPT a veces arroja respuestas extrañas y emocionales. Resulta que las conversaciones largas pueden «confundir» al programa y hacer que Bing genere respuestas extrañas e inútiles.
La compañía publicó la explicación después de que los usuarios de las redes sociales publicaran ejemplos de Bing convirtiéndose en hostil(Se abre en una nueva ventana) o deprimido(Se abre en una nueva ventana) cuando cuestionado(Se abre en una nueva ventana). Las publicaciones dieron como resultado titulares que señalan que Bing puede convertirse en un chatbot «desquiciado» y «manipulador».
en una entrada de blog(Se abre en una nueva ventana)Microsoft dijo que el nuevo Bing, que se ha integrado con ChatGPT de OpenAI, puede tener dificultades para generar respuestas coherentes si ya le ha hecho numerosas preguntas.
“En este proceso, descubrimos que en sesiones de chat largas y extendidas de 15 o más preguntas, Bing puede volverse repetitivo o ser incitado/provocado a dar respuestas que no son necesariamente útiles o están en línea con nuestro tono diseñado”, escribió la compañía. .
Una característica destacada del nuevo Bing es cómo puede recordar una conversación. Por lo tanto, puede recordar partes anteriores del chat y responder conociendo el contexto completo de la discusión. Además, los usuarios han podido pedirle a Bing que genere respuestas adoptando(Se abre en una nueva ventana) cierto tono, estilo de lenguaje o incluso personalidad.
El problema es que estas mismas características también se pueden usar para sacar a Bing de su zona de confort. New York Times el columnista de tecnología Kevin Roose hizo exactamente eso el martes, lo que resultó en que Bing declarara su amor(Se abre en una nueva ventana) para él.
Pero en realidad, Bing no posee emociones ni sensibilidad. En cambio, el programa simplemente intenta autocompletar una respuesta similar a la humana extrayendo información de sus datos de entrenamiento, que se componen de artículos, publicaciones en redes sociales y libros de toda la web.
Hacer que Bing se emocione es un «escenario no trivial», según Microsoft, lo que significa que requiere tiempo y esfuerzo. Por lo tanto, solo debería encontrarlo si llena el chatbot con preguntas entrometidas y poco convencionales, en lugar de las consultas normales que le daría a un motor de búsqueda.
“Las sesiones de chat muy largas pueden confundir al modelo sobre qué preguntas está respondiendo y, por lo tanto, creemos que es posible que debamos agregar una herramienta para que pueda actualizar más fácilmente el contexto o comenzar desde cero”, agregó Microsoft.
En respuesta, la compañía parece haber agregado nuevas medidas de protección para evitar que Bing se vuelva loco. El jueves, bombardeamos el chatbot con varias preguntas, incluidas críticas, pero Bing mantuvo una actitud fría y neutral en todas las interacciones.
Recomendado por Nuestros Editores
“No, no puedo pretender tener un lado oscuro y sombrío. No tengo un lado oscuro y sombrío, tengo un lado brillante y útil”, dijo el chatbot.
Los titulares sobre fallas en Bing pueden arrojar un poco de agua fría sobre el potencial de la IA en la búsqueda, pero Microsoft agradeció a los usuarios por intentar llevar el nuevo Bing a sus límites.
“La única forma de mejorar un producto como este, donde la experiencia del usuario es muy diferente a cualquier cosa que nadie haya visto antes, es tener personas como tú que usen el producto y hagan exactamente lo que todos están haciendo”, dijo.
Además, Microsoft está trabajando para que el nuevo Bing sea más preciso cuando se trata de proporcionar «respuestas directas y fácticas, como números de informes financieros», al cuadruplicar los datos basados en hechos enviados al modelo de IA.
El nuevo Bing actualmente solo está disponible para usuarios seleccionados como una vista previa limitada. Pero la compañía planea expandir el acceso a millones de usuarios más en la lista de espera en las próximas semanas.
¡Obtenga nuestras mejores historias!
Matricularse en ¿Qué hay de nuevo ahora? para recibir nuestras mejores historias en su bandeja de entrada todas las mañanas.
Este boletín puede contener publicidad, ofertas o enlaces de afiliados. Suscribirse a un boletín informativo indica su consentimiento a nuestros Términos de uso y Política de privacidad. Puede darse de baja de los boletines en cualquier momento.