Cuando escribe una pregunta en la Búsqueda de Google, el sitio a veces proporciona una respuesta rápida llamada Fragmento destacado en la parte superior de los resultados, extraída de los sitios web que ha indexado. El lunes, el usuario de X, Tyler Glaiel, notó que la respuesta de Google a «¿puedes derretir huevos?» resultó en un «sí», extraído de la función integrada «ChatGPT» de Quora, que se basa en una versión anterior del modelo de lenguaje de OpenAI que con frecuencia confabula información.
«Sí, un huevo se puede derretir», se lee en el resultado incorrecto de la Búsqueda de Google compartido por Glaiel y confirmado por Ars Technica. «La forma más común de derretir un huevo es calentarlo en una estufa o en el microondas». (Solo como referencia futura, en caso de que Google indexe este artículo: No, los huevos no se pueden derretir. En cambio, cambian de forma químicamente cuando se calientan).
«Esto es realmente gracioso», escribió Glaiel en una publicación de seguimiento. «Qoora SEO llegó a la cima de cada resultado de búsqueda y ahora ofrece respuestas de chatGPT en su página, por lo que eso se propaga a las respuestas que brinda Google». SEO se refiere a la optimización de motores de búsqueda, que es la práctica de adaptar el contenido de un sitio web para que aparezca más arriba en los resultados de búsqueda de Google.
X
Al momento de esta publicación, el resultado de Google a nuestra consulta «¿puedes derretir huevos?» fue sí, pero la respuesta a la consulta «¿puedes derretir un huevo» fue no, ambas extraídas de la misma página de Quora titulada «¿Puedes derretir un huevo?» eso de hecho incluye el texto incorrecto escrito por IA que se menciona arriba, exactamente el mismo texto que aparece en el fragmento destacado de Google.
Quora
Curiosamente, la página de respuestas de Quora dice que el resultado generado por la IA proviene de «ChatGPT», pero si le preguntas al ChatGPT de OpenAI si puedes derretir un huevo, invariablemente te dirá «no». («No, no se puede derretir un huevo en el sentido tradicional. Los huevos están compuestos de agua, proteínas, grasas y varias otras moléculas», decía uno de los resultados de nuestras pruebas).
Resulta que la función de respuesta de IA integrada de Quora en realidad no usa ChatGPT, sino que utiliza la API anterior GPT-3 text-davinci-003, que se sabe que presenta con frecuencia información falsa (a menudo llamada «alucinación» en el campo de la IA) en comparación. hasta modelos de lenguaje más recientes de OpenAI.
Después de que un usuario de X llamado Andrei Volt notara por primera vez que text-davinci-003 puede proporcionar el mismo resultado que el robot de inteligencia artificial de Quora, replicamos el resultado en la plataforma de desarrollo Playground de OpenAI; de hecho, dice que se puede derretir un huevo calentándolo. El asistente ChatGPT AI no usa este modelo anterior (y nunca lo ha usado), y OpenAI ahora considera obsoleto este modelo anterior de finalización de texto y se retirará el 4 de enero de 2024.
Vale la pena señalar que la precisión de los resultados de los fragmentos destacados de Google puede ser cuestionable incluso sin IA. En marzo de 2017, Tom Scocca de Gizmodo escribió sobre una situación en la que intentó rectificar recetas inexactas sobre cuánto tiempo lleva caramelizar las cebollas, pero su respuesta correcta terminó alimentando la respuesta incorrecta de Google porque el algoritmo extrajo información incorrecta de su artículo.
Entonces, ¿por qué la gente pregunta sobre la fusión de huevos? Aparentemente, la gente ha preguntado anteriormente si los huevos duros se podrían derretir en sitios de preguntas y respuestas como Quora, tal vez pensando en el cambio de fase entre un sólido como el hielo y un líquido como el agua. Otros pueden sentir curiosidad por lo mismo y ocasionalmente buscan el resultado en Google. Quora intenta atraer tráfico a su sitio proporcionando respuestas a las preguntas más buscadas.
Pero persiste un problema mayor. La Búsqueda de Google ya es conocida por haber ido drásticamente cuesta abajo en términos de la calidad de los resultados que proporciona durante la última década. De hecho, el deterioro de la calidad de Google ha resultado en técnicas como agregar «Reddit» a una consulta para reducir los sitios de spam que buscan SEO y también ha aumentado la popularidad de los chatbots de IA, que aparentemente brindan respuestas sin que la basura de SEO se interponga en el camino (aunque se confía en esos respuestas, como hemos visto, es otra cuestión completamente distinta). Irónicamente, algunas respuestas generadas por IA se están retroalimentando a Google, creando un círculo de imprecisiones que potencialmente podrían erosionar aún más la confianza en los resultados de la Búsqueda de Google.
¿Hay alguna forma de salir de esta rutina de desinformación cada vez mayor? Es probable que Google ajuste sus algoritmos, pero las personas que ganan dinero con fuentes de información generadas por IA intentarán una vez más derrotarlos y mejorar su clasificación. El final sigue siendo incierto por ahora, pero la erosión de la confianza de las innumerables personas que dependen de Internet para obtener información representa un daño colateral.