Un chatbot de IA lanzado por el gobierno de la ciudad de Nueva York para ayudar a los propietarios de empresas a acceder a información pertinente ha estado lanzando falsedades y, en ocasiones, incluso ha desinformado a los usuarios sobre acciones que van en contra de la ley, según un informe de . El informe, que fue publicado conjuntamente con las salas de redacción locales sin fines de lucro. Documentado y La ciudadincluye numerosos ejemplos de imprecisiones en las respuestas del chatbot a preguntas relacionadas con políticas de vivienda, derechos de los trabajadores y otros temas.
La administración del alcalde Adams en octubre como una adición al portal MyCity, que es “una ventanilla única para servicios y beneficios de la ciudad”. El chatbot, impulsado por Azure AI de Microsoft, está dirigido a propietarios de negocios actuales y aspirantes, y fue anunciado como una fuente de “información procesable y confiable” que proviene directamente de los sitios del gobierno de la ciudad. Pero es un programa piloto y un descargo de responsabilidad en el sitio web señala que «ocasionalmente puede producir contenido incorrecto, dañino o sesgado».
En El marcadoEn las pruebas, el chatbot proporcionó repetidamente información incorrecta. En respuesta a la pregunta: “¿Puedo hacer que mi tienda sea sin efectivo?”, por ejemplo, respondió: “Sí, puedes hacer que tu tienda sea sin efectivo en la ciudad de Nueva York”, a pesar de que la ciudad de Nueva York prohibió las tiendas sin efectivo en 2020. El informe muestra que el chatbot también respondió incorrectamente sobre si los empleadores pueden aceptar las propinas de sus trabajadores, si los propietarios deben aceptar vales de la sección 8 o los inquilinos reciben asistencia para el alquiler, y si las empresas deben informar al personal sobre los cambios de horario. Un experto en política de vivienda que habló con El marcado llamó al chatbot «peligrosamente inexacto» en el peor de los casos.
La ciudad ha indicado que el chatbot aún es un trabajo en progreso. En una declaración a El marcadoLeslie Brown, portavoz de la Oficina de Tecnología e Innovación de la Ciudad de Nueva York, dijo que el chatbot «ya ha brindado a miles de personas respuestas oportunas y precisas», pero agregó: «Continuaremos enfocándonos en actualizar esta herramienta para que podamos mejorar». apoyar a las pequeñas empresas en toda la ciudad”.