Lo que necesitas saber
- Microsoft publicó un artículo generado por IA que destaca las atracciones turísticas clave en Ottawa, Canadá, en Microsoft Start.
- Desde entonces, el artículo ha sido retirado después de recomendar el Banco de Alimentos de Ottawa entre los tres mejores lugares para visitar.
- Actualmente, la compañía está investigando el asunto para determinar cómo la pieza pasó por el proceso de revisión y se publicó.
Si bien la IA generativa ha ganado gran popularidad este año, la gente todavía tiene reservas con respecto a la herramienta. Las preocupaciones sobre privacidad y seguridad encabezan la lista, pero el problema de la precisión aún acecha entre muchos usuarios.
Y como parece, sigue siendo un problema importante. Microsoft publicó recientemente un artículo en Microsoft Start (MSN) titulado «¿Se dirige a Ottawa? ¡Esto es lo que no debe perderse!» Y aunque esperaría que esta lista estuviera repleta de lugares geniales y divertidos que puede visitar mientras se encuentra en Ottawa, Canadá, la tercera opción en la lista fue desagradable.
Esto se debe a que recomendó el Banco de Alimentos de Ottawa como una de las principales atracciones turísticas con la siguiente leyenda: «Las personas que vienen a nosotros tienen trabajos y familias que mantener, así como gastos que pagar. La vida ya es bastante difícil. Considere entrar en con el estómago vacío», según lo observado por París Marx en X (anteriormente Twitter).
¡Microsoft realmente está saliendo del parque con sus historias de viajes generadas por IA! Si visita Ottawa, recomienda encarecidamente el Banco de Alimentos de Ottawa y ofrece un gran consejo para los turistas: «Considere ir con el estómago vacío». https://t.co/7bvGemDad217 de agosto de 2023
Además, la extraña recomendación fue el Festival Winterlude, National War Memorial, así como la consideración de ir a un partido de hockey de los Senadores de Ottawa. Sin embargo, al hacer clic en el enlace al artículo original en Microsoft Start, recibirá un mensaje que indica que la página ya no existe. Una clara indicación de que Microsoft eliminó el artículo. The Verge tiene desde entonces subió el artículo completo en Imgurpor lo que también puede consultarlo desde allí.
«Este artículo ha sido eliminado y estamos investigando cómo pasó nuestro proceso de revisión», dijo Jeff Jones, director senior de Microsoft. mientras hablaba con The Verge sobre el tema.
En estudios e investigaciones recientes realizados por investigadores, los chatbots impulsados por IA aparentemente están empeorando. Por ejemplo, se informa que ChatGPT volviéndome más tonto, a pesar de numerosas actualizaciones y mejoras. OpenAI, que hace ChatGPT, podría ser potencialmente al borde de la bancarrota también.
Tal vez recuerdes eso Microsoft despidió a un grupo de sus periodistas de MSN en 2020 mientras hace la transición a contenido generado por IA, ante la pandemia de COVID-19.
Samantha Koziara, gerente de comunicación del Banco de Alimentos de Ottawa compartió los siguientes sentimientos con The Verge relativo al artículo:
La línea de ‘estómago vacío’ es claramente insensible y no pasó por un editor (humano). Que yo sepa, no hemos visto algo como esto antes, pero a medida que la IA se vuelve cada vez más popular, no dudo que se hará un mayor número de referencias inexactas/inapropiadas en listas como esta. Esto simplemente destaca la importancia de los investigadores, escritores y editores… de la variedad humana.
La IA necesita más ajustes
Evidentemente, todavía queda mucho trabajo por hacer en el frente de la IA si las organizaciones y las empresas quieren reducir el personal y reemplazarlo con inteligencia artificial.
La tecnología aún está lejos de la perfección, con instancias de chatbots que brindan información incorrecta o son abiertamente groseros con los usuarios. Además, la FTC inició una investigación sobre ChatGPTpara determinar si OpenAI había violado alguna ley de protección al consumidor.
Si bien la FTC no puede establecer reglas que rijan cómo se usan las herramientas de inteligencia artificial, aún podría hacer recomendaciones que tendrían un gran impacto. Como tal, es probable que Microsoft también esté en el extremo receptor dada su reciente interés e inversión en IA.