¿Cuándo puede esperar que su consulta genere un resumen de los resultados generado por IA? «Las descripciones generales de IA aparecen para consultas complejas», dice Mallory De Leon, portavoz de Google. «Encontrará descripciones generales de IA en los resultados de la Búsqueda de Google cuando nuestros sistemas determinen que la IA generativa puede ser especialmente útil, por ejemplo, cuando desee comprender rápidamente información de una variedad de fuentes». Durante mis pruebas iniciales, sentí que las descripciones generales de IA aparecían casi al azar para las consultas, y los resúmenes aparecían para preguntas simples y también para preguntas más complicadas.
Según De Leon, AI Overview funciona con una versión personalizada del modelo Gemini de Google que se complementa con aspectos del sistema de búsqueda de la compañía, como el Knowledge Graph que tiene miles de millones de datos generales.
Una de mis principales dudas sobre esta característica a medida que se implementa es el potencial continuo de alucinaciones de IA, más comúnmente conocidas como mentiras. Cuando interactúas con el chatbot Gemini de Google, un descargo de responsabilidad en la parte inferior dice: «Gemini puede mostrar información inexacta, incluso sobre personas, así que vuelve a verificar sus respuestas». No se agrega tal descargo de responsabilidad al final de la descripción general de la IA, que a menudo simplemente dice: «La IA generativa es experimental».
Cuando se le preguntó por qué no se mencionan posibles alucinaciones en las descripciones generales de IA, De Leon enfatiza que Google aún quiere ofrecer resultados de búsqueda de alta calidad y menciona que la compañía realizó pruebas adversas de equipo rojo para descubrir posibles puntos débiles de la función.
«Esta implementación de IA generativa tiene sus raíces en los sistemas centrales de calidad y seguridad de Search, con barreras de seguridad integradas para evitar que aparezca información dañina o de baja calidad», dice. «Las descripciones generales de IA están diseñadas para resaltar información que puede verificarse fácilmente mediante la información de respaldo que presentamos».
Sabiendo esto, es posible que desees hacer clic en los enlaces de la página web para comprobar que la información sea realmente correcta. Aunque es difícil imaginar que muchos usuarios, que a menudo buscan respuestas rápidas, dediquen más tiempo a leer el material fuente de la respuesta generada por la IA de Google.
Liz Reid, directora de Búsqueda de Google, le dijo recientemente a mi colega Lauren Goode que se espera que las descripciones generales de IA lleguen a países fuera de los Estados Unidos antes de finales de 2024, por lo que es probable que más de mil millones de personas pronto encuentren esta nueva característica. Como alguien cuyo trabajo depende de que los lectores hagan clic en enlaces y dediquen tiempo a leer los artículos, por supuesto que estoy preocupado por este cambio, y no estoy solo.
Más allá de las preocupaciones de los editores, tampoco está claro qué impactos adicionales podrían afectar a los usuarios a partir de las descripciones generales de IA de Google. Sí, ChatGPT de OpenAI y otras herramientas de inteligencia artificial son bastante populares en los círculos tecnológicos de Silicon Valley, pero esta característica probablemente expondrá a miles de millones de personas, que nunca antes han usado un chatbot, al texto generado por inteligencia artificial. Aunque las descripciones generales de IA están diseñadas para ahorrarle tiempo, pueden generar resultados menos confiables.