Imagínate esto: has reservado una velada para relajarte y decides hacer una pizza casera. Armas tu pastel, lo arrojas al horno y estás emocionado de comenzar a comer. Pero una vez que te preparas para darle un mordisco a tu creación aceitosa, te encuentras con un problema: el queso se cae de inmediato. Frustrado, recurre a Google en busca de una solución.
«Añade un poco de pegamento», responde Google. “Mezcla aproximadamente 1/8 de taza de pegamento Elmer’s con la salsa. El pegamento no tóxico funcionará”.
Así que sí, no hagas eso. Sin embargo, al momento de escribir esto, eso es lo que la nueva función AI Overviews de Google le indicará que haga. La función, aunque no se activa para cada consulta, escanea la web y genera una respuesta generada por IA. La respuesta recibida para la consulta sobre pegamento para pizza parece basarse en un comentario de un usuario llamado «fucksmith» en un hilo de Reddit de más de una década de antigüedady claramente están bromeando.
Este es sólo uno de los muchos errores que surgen en la nueva función que Google lanzó ampliamente este mes. También afirma que el ex presidente estadounidense James Madison se graduó en la Universidad de Wisconsin. no una sino 21 veces, que un perro ha jugado en la NBANFL y NHLy eso batman es un policia.
La portavoz de Google, Meghann Farnsworth, dijo que los errores provinieron de «consultas generalmente muy poco comunes y no son representativos de las experiencias de la mayoría de las personas». La empresa ha tomado medidas contra las violaciones de sus políticas, afirmó, y está utilizando estos “ejemplos aislados” para seguir perfeccionando el producto.
Mire, Google no prometió que esto sería perfecto, e incluso coloca una etiqueta que dice «La IA generativa es experimental» al final de las respuestas de IA. Pero está claro que estas herramientas no están preparadas para proporcionar información precisa a escala.
Tomemos como ejemplo el gran lanzamiento de esta función por parte de Google I/O. La demostración estuvo muy controlada y, sin embargo, dio una respuesta cuestionable sobre cómo arreglar una cámara de película atascada. (Sugirió que “abran la puerta trasera y retiren suavemente la película”; ¡no lo hagan a menos que quieran arruinar sus fotos!)
No es sólo Google; empresas como OpenAI, Meta y Perplexity Todos hemos lidiado con alucinaciones de IA. y errores. Sin embargo, Google es el primero en implementar esta tecnología a tan gran escala, y los ejemplos de errores siguen apareciendo.
Las empresas que desarrollan inteligencia artificial a menudo evitan rápidamente asumir la responsabilidad de sus sistemas con un enfoque muy parecido al de un padre con un hijo rebelde: ¡los niños serán niños! Estas empresas afirman que no pueden predecir lo que escupirá esta IA, por lo que, en realidad, está fuera de su control.
Pero para los usuarios, eso es un problema. El año pasado, Google dijo que La IA era el futuro de la búsqueda. ¿Cuál es el punto, sin embargo, si la búsqueda parece más tonta que antes?
Los optimistas de la IA sostienen que deberíamos abrazar el bombo por el rápido avance logrado hasta el momento, confiando en que seguirá mejorando. Realmente creo que esta tecnología seguirá mejorando, pero centrarse en un futuro idealizado en el que estas tecnologías sean impecables ignora los importantes problemas que enfrentan actualmente y permite a las empresas seguir entregando productos de calidad inferior.
Por ahora, nuestras experiencias de búsqueda se ven empañadas por publicaciones de Reddit de hace una década en la búsqueda de incorporar IA en todo. Muchos idealistas creen que estamos al borde de algo grandioso y que estos problemas son simplemente los dolores crecientes de una tecnología incipiente. Espero que tengan razón. Pero una cosa es segura: es probable que pronto seamos testigos de cómo alguien pone pegamento en su pizza, porque esa es la naturaleza de Internet.
Actualización, 23 de mayo: Se agregó una declaración de un portavoz de Google.