Mientras Bard, impulsado por IA de Google, se prepara para competir contra ChatGPT, no cuente con que los programas de chatbot siempre tengan razón: una demostración reciente de Bard muestra que arroja información inexacta.
Bard, que Google anunció el lunes, está programado para llegar en las próximas semanas. Para promover el programa de IA, la empresa publicó un GIF(Se abre en una nueva ventana) en las redes sociales que muestra a Bard respondiendo una pregunta sobre los nuevos descubrimientos que ha hecho el telescopio espacial James Webb de la NASA.
El programa enumera tres descubrimientos que hizo el telescopio espacial en un formato de viñetas fácil de leer. Por lo tanto, a través de Bard, un usuario puede obtener información rápidamente, sin tener que desplazarse por una larga lista de resultados de búsqueda para encontrar el sitio correspondiente.
(Crédito: Google)
¿El único problema? Los astrónomos se apresuraron a señalar(Se abre en una nueva ventana) uno de los hechos enumerados que generó Bard es incorrecto. El programa afirma erróneamente que el telescopio espacial James Webb «tomó las primeras imágenes de un planeta fuera de nuestro propio sistema solar». Pero en realidad, los astrónomos tomaron la primera imagen de un exoplaneta.(Se abre en una nueva ventana) en 2004 utilizando el Very Large Telescope del Observatorio Europeo Austral en Chile.
Es posible que Bard haya cometido el error porque el telescopio espacial James Webb tomó su primera imagen de un planeta fuera de nuestro propio sistema solar en septiembre; simplemente no fue el primer telescopio en hacerlo. Los comunicados de prensa «ambiguos» de la NASA sobre los descubrimientos de exoplanetas de James Webb pueden haber confundido aún más el programa de IA. agregado(Se abre en una nueva ventana) astrónomo Bruce Macintosh.
El error es un poco vergonzoso ya que Bard pretende mejorar la experiencia de búsqueda, no actuar como un detrimento. En un comunicado, la compañía enfatiza que Bard todavía es un trabajo en progreso.
“Esto destaca la importancia de un proceso de prueba riguroso, algo que estamos lanzando esta semana con nuestro programa Trusted Tester”, dijo la compañía a PCMag. “Combinaremos comentarios externos con nuestras propias pruebas internas para asegurarnos de que las respuestas de Bard alcancen un alto nivel de calidad, seguridad y solidez en la información del mundo real”.
Recomendado por Nuestros Editores
Sin embargo, el error muestra el riesgo de usar Bard o ChatGPT para optimizar los resultados de búsqueda. Los mismos programas pueden proporcionar accidentalmente información errónea al tratar de resumir el contenido. Microsoft, que está integrando ChatGPT en el motor de búsqueda de Bing, incluso reconoce: «Bing a veces tergiversará la información que encuentra, y es posible que vea respuestas que suenan convincentes pero que están incompletas, son inexactas o son inapropiadas».
Microsoft está tratando de abordar el riesgo de desinformación al exigir que el nuevo Bing con tecnología ChatGPT cite las fuentes y muestre cómo llegó a una respuesta. Aún así, el enfoque asume que el usuario se tomará el tiempo para verificar las fuentes cuando muchos no lo harían.
Tanto el nuevo Bing como Bard con tecnología de inteligencia artificial aún no se han lanzado por completo. Pero cuando lo hagan, sin duda se pondrá a prueba su capacidad para publicar información errónea y ser explotados para el abuso. Preguntas frecuentes de Microsoft(Se abre en una nueva ventana) en Bing con tecnología ChatGPT agrega un descargo de responsabilidad: «Use su propio juicio y verifique dos veces los hechos antes de tomar decisiones o tomar medidas basadas en las respuestas de Bing».
¡Obtenga nuestras mejores historias!
Matricularse en ¿Qué hay de nuevo ahora? para recibir nuestras mejores historias en su bandeja de entrada todas las mañanas.
Este boletín puede contener publicidad, ofertas o enlaces de afiliados. Suscribirse a un boletín informativo indica su consentimiento a nuestros Términos de uso y Política de privacidad. Puede darse de baja de los boletines en cualquier momento.