La claridad del abastecimiento será cada vez más importante en el futuro, al igual que crear consecuencias reales para que la IA sea incorrecta o se use para engañar a los consumidores. Las consecuencias para mí y mis colegas de ser malos en nuestro trabajo es que todos no están de acuerdo con nosotros, los anunciantes huyen y perdemos nuestra credibilidad. Pero en un mundo donde la IA está analizando nuestras palabras para crear sus propias recomendaciones, parece plausible que las malas opiniones puedan filtrarse más fácilmente, o ser manipuladas, en el sistema.
Sridhar Ramaswamy, de la startup de búsqueda basada en inteligencia artificial Neeva, señala que el uso de ChatGPT requerirá una verificación independiente. “El valor predeterminado para ChatGPT es que realmente no puedes creer las respuestas que salen. Ninguna persona razonable puede averiguar qué es verdad y qué es falso”, dice Ramaswamy. “Creo que debe elegir entre los sitios más confiables y debe proporcionar citas que hablen sobre el origen de la información”.
Algunas cosas prestadas
Y sí, puedo ver un futuro en el que gran parte del periodismo de comunicados de prensa, en el que los medios informan sobre anuncios de políticos o empresas, podría encargarse a AI para que los escriba. Algunos editores ya están escribiendo historias con IA generativa para reducir los costos de mano de obra, con los divertidos resultados esperados, aunque a medida que la IA generativa mejore, seguramente mejorará en los informes básicos.
Pero, ¿qué significa todo esto para usted, el consumidor de futuras listas de lo mejor generadas por IA? ¡A quién le importa si estamos viviendo nuestro momento Napster! Es fácil no hacer demasiadas preguntas sobre la procedencia cuando obtienes todas las canciones que deseas. Aun así, en este momento diría que no vale la pena confiar en las recomendaciones generadas por IA, a menos que, como Bing, citen y vinculen a las fuentes.
Angela Hoover, de Andi, una startup de búsqueda basada en IA, dice que todos los resultados de búsqueda deben mostrar de manera destacada las fuentes de las que se extraen. «La búsqueda será visual, conversacional y objetivamente precisa. Especialmente en la era de los motores de búsqueda generativos, es más importante que nunca saber de dónde proviene la información».
Cuando se trata de pedir recomendaciones e información a la IA en el ámbito humano, requerirá aportes humanos. La IA generativa simplemente imita la experiencia humana de sostener y usar un producto. Si los puntos de venta comienzan a reemplazar sus revisiones de productos, guías de compra y clasificaciones de lo mejor con listas generadas por IA, por ejemplo, esa es menos información general para analizar y generar. Uno puede imaginar que ciertas categorías de productos en línea, especialmente en productos más especializados, se parecerán cada vez más a cámaras de eco para los consumidores de lo que actualmente se critica.
Al combinar la búsqueda y la IA, es importante que confiemos en las clasificaciones de búsqueda existentes y otros métodos que a menudo son útiles para clasificar las malas fuentes. Simplemente ignoro ciertos sitios de revisión en línea y las calificaciones de Amazon en general, porque están llenos de problemas como revisiones falsas. Si la IA no tiene el mismo nivel de discreción, y si aquellos de nosotros en los principales medios de revisión no intervienen, o intervienen menos porque la IA nos está quitando el trabajo, no veo un resultado halagüeño para los consumidores.