Con el crecimiento masivo de ChatGPT En los titulares todos los días, Google y Microsoft han respondido mostrando chatbots de IA integrados en sus motores de búsqueda. Es evidente que la IA es el futuro. ¿Pero el futuro de qué?
En Tom’s Hardware, nuestro objetivo es ampliar los límites de la tecnología para ver qué es posible, por lo que, a nivel técnico, estoy impresionado con la apariencia humana de las respuestas del chatbot. La IA es una herramienta poderosa que se puede utilizar para mejorar el aprendizaje humano, la productividad y la diversión. Pero tanto el bot Bard de Google como el chatbot “New Bing” de Microsoft se basan en una premisa defectuosa y peligrosa: que a los lectores no les importa de dónde proviene su información ni quién está detrás de ella.
Basados en información de autores humanos, los motores de IA de ambas compañías se están posicionando como alternativas a los artículos de los que aprendieron. El resultado final podría ser una web más cerrada, con menos información gratuita y menos expertos para ofrecerte buenos consejos.
Google hizo una demostración de Bard tanto en un tuit como en un evento transmitido en vivo en el que no solo brindó respuestas fácticas, sino también recomendaciones. La empresa se avergonzó cuando resultó que una de las respuestas de Bard era objetivamente incorrecta, pero los problemas con Bard y New Bing van mucho más allá de la inexactitud.
Dar consejos, sin el asesor
En el evento en vivo, el vicepresidente sénior de Google, Prabhakar Raghavan, dijo que Bard era una buena opción para responder consultas que clasificó como NORA (Nadie responde correctamente). “Para preguntas como esas, probablemente queramos explorar una amplia gama de opiniones o perspectivas y estar conectados con la extensión de la sabiduría de la web”, dijo. “Las nuevas funciones generativas de IA nos ayudarán a organizar información compleja y múltiples puntos de vista directamente en los resultados de búsqueda”.
La «extensión de la web» en realidad significa que el bot se está apropiando de datos de millones de artículos que fueron escritos por humanos que no reciben crédito ni compensación por su trabajo. Pero no sabrías nada de eso al ver la salida de Bard.
Raghavan mostró a Google respondiendo «¿cuáles son las mejores constelaciones para buscar al mirar las estrellas?» En lugar de mostrar los mejores artículos de la web sobre este tema, el motor de búsqueda muestra su propio mini artículo con su propio conjunto de constelaciones recomendadas. No hay citas que le digan de dónde provienen estos «múltiples puntos de vista», ni hay autoridad para respaldar las afirmaciones que hace.
Bard dice: “Hay muchas constelaciones que puedes buscar la próxima vez que mires las estrellas. Aquí hay algunos populares”. ¿Cómo sabemos que son populares y cómo sabemos que son las mejores constelaciones? ¿Con autoridad de quién dice esto el bot? Aparentemente, se supone que debemos confiar en él.
Pero la confianza es difícil de conseguir. El tweet de la compañía mostró una situación vergonzosa en la que Bard da una lista de «nuevos descubrimientos» del Telescopio Espacial James Webb (JWST), pero uno de los tres puntos en realidad no es un nuevo descubrimiento en absoluto. De acuerdo a NASAlas primeras imágenes de un exoplaneta se tomaron en 2004, mucho antes del lanzamiento del JWST en 2021.
Muchos críticos estarán justificadamente preocupados por las posibles inexactitudes de los hechos en los resultados del chatbot, pero es probable que podamos asumir que, a medida que la tecnología mejore, mejorará en la eliminación de errores. El problema más importante es que los bots te están dando consejos que parecen surgir de la nada, aunque obviamente se compilaron tomando contenido de escritores humanos a quienes Bard ni siquiera les da crédito.
Devaluar la experiencia, la autoridad y la confianza
Irónicamente, la iniciativa de Google va en contra de los criterios clave que la empresa dice que prioriza en la clasificación de las búsquedas orgánicas. La empresa aconseja a los editores web que considera comer (Experiencia, Pericia, Autoridad y Confianza) cuando decide qué artículos están en la parte superior de una página y cuáles aparecen en la parte inferior. Tiene en cuenta criterios como los antecedentes del autor, si ese autor describe experiencias relevantes y si esa publicación tiene reputación de ser confiable. Por definición, un bot no puede cumplir ninguno de estos criterios.
Cuando no hay una respuesta correcta, es cuando el contenido humano importa más. Queremos consejos de una fuente confiable, alguien con experiencia en el tema y un conjunto de opiniones profesionales basadas en la experiencia.
Si conocemos al autor, podemos emitir juicios sobre la confiabilidad de la información. Es por eso que, cuando voy a reuniones familiares, los familiares se me acercan y me hacen preguntas como «¿qué computadora portátil debo comprar?» Podrían simplemente hacer una búsqueda en la web para esa pregunta (y tal vez deberían), pero me conocen y creen que no los guiaré mal.
Google espera que, en un mundo donde todos tienen una opinión y la expresan en las redes sociales, la experiencia ya no importa a los usuarios. La compañía espera que usted simplemente lea lo que ve en la parte superior de su pantalla, lo crea tanto como cualquier otra cosa y luego permanezca en el sitio para que pueda continuar viendo sus anuncios, una fuente de ingresos, sin interrupciones. Si abandona el motor de búsqueda, estará en el sitio web de otra persona donde Google puede o no estar a cargo de publicar los anuncios.
Bing muestra las fuentes pero las entierra
La implementación del nuevo chatbot de Bing es ligeramente mejor que la de Google, ya que muestra las fuentes, pero las entierra en pequeñas notas al pie, algunas de las cuales ni siquiera son visibles a menos que haga clic en un botón para expandir la respuesta.
Incluso si las citas en el chatbot de Bing fueran más prominentes, todavía ofrece consejos que sería mejor que obtuviéramos de una persona con experiencia. En el ejemplo anterior, el bot prepara una cena vegetariana de tres platos con un postre de chocolate. Pero, ¿cómo sé que estas son las mejores recetas o que el maridaje de estos platos es bueno?
Prefiero confiar en el resultado de búsqueda superior, que fue escrito por un humano que ha cocinado antes y pensó en este conjunto de platos como lo haría una persona. Sin embargo, para crédito de Bing, coloca su propio contenido junto a los resultados de búsqueda orgánicos, en lugar de empujarlos hacia abajo.
Podría argumentar que los temas de demostración que Google y Microsoft eligieron son muy subjetivos. Algunas personas pensarán que Orión es la mejor constelación para mirar, mientras que otras elegirán la Osa Mayor. Y eso es exactamente por qué el autor importa.
Todos nos guiamos por nuestros prejuicios y, en lugar de tratar de ocultarlos, los mejores autores los abrazan y los revelan. Si ha leído algunas de mis reseñas de computadoras portátiles, sabe que la escritura táctil es importante para mí. He probado cientos de teclados de portátiles en mi carrera; Puedo decirle cuáles se sienten blandas y cuáles son táctiles y ágiles. Y la comodidad del teclado será un factor en mis recomendaciones si me preguntas qué modelos son los mejores. Si no le importa la calidad del teclado o le gustan las teclas esponjosas, puede decidir darle menos peso a mis calificaciones (o ese aspecto de ellas).
No sabemos qué sesgos se esconden detrás de las listas de recetas, constelaciones o cualquier otra cosa del bot. Los datos podrían incluso extraerse de comerciales.
Los bots de IA podrían dañar la web abierta
Admito otro sesgo. Soy escritor profesional, y los chatbots como los que muestran Google y Bing son una amenaza existencial para cualquiera que cobre por sus palabras. La mayoría de los sitios web dependen en gran medida de la búsqueda como fuente de tráfico y, sin esos globos oculares, el modelo comercial de muchos editores no funciona. Sin tráfico significa que no hay anuncios, no hay clics de comercio electrónico, no hay ingresos ni empleos.
Eventualmente, algunos editores podrían verse obligados a cerrar el negocio. Otros podrían esconderse detrás de los muros de pago y otros podrían bloquear a Google y Bing para que no indexen su contenido. Los bots de IA se quedarían sin fuentes de calidad para rastrear, lo que haría que sus consejos fueran menos confiables. Y los lectores tendrían que pagar más por contenido de calidad o conformarse con menos voces.
Al mismo tiempo, está claro que estos bots están siendo entrenados al indexar el contenido de escritores humanos, la mayoría de los cuales fueron pagados por los editores por su trabajo. Entonces, cuando el bot dice que Orión es una gran constelación para ver, eso se debe a que en algún momento visitó un sitio como nuestro sitio hermano. espacio.com y reunió información sobre las constelaciones. La forma en que se entrenaron los modelos es una caja negra, por lo que no sabemos qué sitios web exactos llevaron a qué afirmaciones fácticas, aunque Bing nos da una idea con sus citas.
Si lo que Google y Bing están haciendo constituye plagio o infracción de derechos de autor está abierto a interpretación y puede determinarse en los tribunales. Getty Images es actualmente demandando a Stable Diffusion, una empresa que genera imágenes de IA, por usar 10 millones de sus imágenes para entrenar al modelo. Me puedo imaginar una gran editorial siguiendo su ejemplo.
Hace un par de años, Amazon era creíblemente acusado de copiar productos de sus propios vendedores externos y luego fabricando sus propios productos con la marca Amazon, que, como era de esperar, aparecen más arriba en la búsqueda interna. Esto suena familiar.
Se podría argumentar que LaMDA de Google (que impulsa a Bard) y el motor OpenAI de Bing están haciendo lo mismo que podría hacer un autor humano. Están leyendo fuentes primarias y luego resumiéndolas en sus propias palabras. Pero ningún autor humano tiene el tipo de poder de procesamiento o base de conocimientos que tienen estas IA.
También podría argumentar que los editores necesitan una mejor fuente de tráfico que Google, y nosotros la necesitamos, pero la mayoría de los usuarios han sido capacitados para tratar la búsqueda como su primera parada en Internet. En 1997, la gente iba a Yahoo, navegaba por un directorio de sitios web, encontraba los que coincidían con sus intereses, los marcaba como favoritos y volvía de nuevo. Esto se parecía mucho al modelo de audiencia de las cadenas de televisión, las revistas y los periódicos, ya que la mayoría de las personas tenían algunas fuentes de información preferidas en las que confiarían con regularidad.
Pero la mayoría de los usuarios de Internet han sido capacitados para ir a plataformas de distribución como Google, Facebook y Twitter y navegar por la web desde allí. Puede gustarle y confiar en un editor, pero a menudo llega al sitio web de ese editor buscándolo en Google o Bing, al que puede acceder directamente desde la barra de direcciones de su navegador. Será difícil para cualquier editor o incluso para un grupo de editores cambiar este comportamiento profundamente arraigado.
Más importante aún, si usted es un consumidor de información, se le trata como un bot, se espera que absorba información sin importar de dónde proviene o si puede confiar en ella. Esa no es una buena experiencia de usuario.
Nota: Al igual que con todos nuestros artículos de opinión, las opiniones expresadas aquí pertenecen únicamente al escritor y no a Tom’s Hardware como equipo.