{"id":1074308,"date":"2024-04-02T08:56:16","date_gmt":"2024-04-02T08:56:16","guid":{"rendered":"https:\/\/magazineoffice.com\/el-chatbot-del-gobierno-de-nueva-york-miente-sobre-las-leyes-y-regulaciones-de-la-ciudad\/"},"modified":"2024-04-02T08:56:20","modified_gmt":"2024-04-02T08:56:20","slug":"el-chatbot-del-gobierno-de-nueva-york-miente-sobre-las-leyes-y-regulaciones-de-la-ciudad","status":"publish","type":"post","link":"https:\/\/magazineoffice.com\/el-chatbot-del-gobierno-de-nueva-york-miente-sobre-las-leyes-y-regulaciones-de-la-ciudad\/","title":{"rendered":"El chatbot del gobierno de Nueva York miente sobre las leyes y regulaciones de la ciudad"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div itemprop=\"articleBody\">\n<figure class=\"intro-image intro-left\"><figcaption class=\"caption\">\n<div class=\"caption-text\">Agrandar <span class=\"sep\">\/<\/span> \u00bfUn empleado del gobierno ha comprobado todos esos ceros y unos que flotan sobre el horizonte?<\/div>\n<\/figcaption><\/figure>\n<aside id=\"social-left\" class=\"social-left\" aria-label=\"Read the comments or share this article\">\n<\/aside>\n<p><!-- cache hit 248:single\/related:3fe800f3ef968ba0ba15954df16251e5 --><!-- empty --><\/p>\n<p>Si sigues las noticias sobre IA generativa, probablemente est\u00e9s familiarizado con la tendencia de los chatbots LLM a \u00abconfabular\u00bb informaci\u00f3n incorrecta mientras la presentan como autorizadamente cierta.  Esa tendencia parece estar a punto de causar serios problemas ahora que un chatbot administrado por el gobierno de la ciudad de Nueva York est\u00e1 inventando respuestas incorrectas a algunas preguntas importantes de la ley local y la pol\u00edtica municipal.<\/p>\n<p>El ChatBot \u00abMyCity\u00bb de Nueva York se lanz\u00f3 como programa \u00abpiloto\u00bb en octubre pasado.  El anuncio promocionaba el ChatBot como una manera para que los due\u00f1os de negocios \u00abahorren&#8230; tiempo y dinero brind\u00e1ndoles instant\u00e1neamente informaci\u00f3n procesable y confiable de m\u00e1s de 2,000 p\u00e1ginas web de NYC Business y art\u00edculos sobre temas como el cumplimiento de c\u00f3digos y regulaciones, negocios disponibles incentivos y mejores pr\u00e1cticas para evitar infracciones y multas\u00bb.<\/p>\n<p>Pero un nuevo informe de The Markup y el sitio local de noticias sin fines de lucro The City encontr\u00f3 que el chatbot MyCity brinda informaci\u00f3n peligrosamente err\u00f3nea sobre algunas pol\u00edticas municipales bastante b\u00e1sicas.  Para citar s\u00f3lo un ejemplo, el robot dijo que los edificios de la Ciudad de Nueva York \u00abno est\u00e1n obligados a aceptar vales de la Secci\u00f3n 8\u00bb, cuando una p\u00e1gina de informaci\u00f3n del gobierno de la Ciudad de Nueva York dice claramente que los subsidios de vivienda de la Secci\u00f3n 8 son una de las muchas fuentes legales de ingresos que los propietarios deben aceptar. sin discriminaci\u00f3n.  The Markup tambi\u00e9n recibi\u00f3 informaci\u00f3n incorrecta en respuesta a consultas del chatbot sobre el salario de los trabajadores y las regulaciones de horas de trabajo, as\u00ed como informaci\u00f3n espec\u00edfica de la industria, como los precios de las funerarias.<\/p>\n<figure class=\"image shortcode-img center large\" style=\"width:100%\"><img loading=\"lazy\" decoding=\"async\" alt=\"Buenas noticias para las personas que piensan que el alquiler es demasiado alto, cortes\u00eda del chatbot MyCity.\" src=\"https:\/\/cdn.arstechnica.net\/wp-content\/uploads\/2024\/03\/mycityrent-640x283.jpeg\" width=\"640\" height=\"283\" srcset=\"https:\/\/cdn.arstechnica.net\/wp-content\/uploads\/2024\/03\/mycityrent-1280x565.jpeg 2x\"\/><figcaption class=\"caption\">\n<div class=\"caption-text\">Agrandar <span class=\"sep\">\/<\/span> Buenas noticias para las personas que piensan que el alquiler es demasiado alto, cortes\u00eda del chatbot MyCity.<\/div>\n<\/figcaption><\/figure>\n<p>Pruebas adicionales realizadas por la usuaria de BlueSky Kathryn Tewson muestran que el chatbot MyCity da algunas respuestas peligrosamente incorrectas con respecto al tratamiento de los denunciantes en el lugar de trabajo, as\u00ed como algunas respuestas hilarantemente malas con respecto a la necesidad de pagar el alquiler.<\/p>\n<h2>esto va a seguir pasando<\/h2>\n<p>El resultado no es demasiado sorprendente si se analizan los modelos predictivos basados \u200b\u200ben tokens que impulsan este tipo de chatbots.  El chatbot de MyCity, impulsado por Microsoft Azure, utiliza un proceso complejo de asociaciones estad\u00edsticas a trav\u00e9s de millones de tokens para esencialmente adivinar la siguiente palabra m\u00e1s probable en cualquier secuencia dada, sin ninguna comprensi\u00f3n real de la informaci\u00f3n subyacente que se transmite.<\/p>\n<p>Esto puede causar problemas cuando una \u00fanica respuesta objetiva a una pregunta puede no reflejarse con precisi\u00f3n en los datos de entrenamiento.  De hecho, The Markup dijo que al menos una de sus pruebas dio como resultado la respuesta correcta a la misma pregunta sobre la aceptaci\u00f3n de vales de vivienda de la Secci\u00f3n 8 (incluso cuando \u00abdiez empleados distintos de Markup\u00bb obtuvieron la respuesta incorrecta al repetir la misma pregunta).<\/p>\n<aside class=\"ad_wrapper\" aria-label=\"In Content advertisement\">\n    <span class=\"ad_notice\">Anuncio <\/span>    <\/p>\n<\/aside>\n<p>MyCity Chatbot, que est\u00e1 claramente etiquetado como un producto \u00abBeta\u00bb, dice a los usuarios que se molestan en leer las advertencias que \u00aben ocasiones puede producir contenido incorrecto, da\u00f1ino o sesgado\u00bb y que los usuarios \u00abno deben confiar en sus respuestas como sustituto de Consejo profesional.\u00bb  Pero la p\u00e1gina tambi\u00e9n afirma al frente y al centro que est\u00e1 \u00abcapacitada para brindarle informaci\u00f3n comercial oficial de la ciudad de Nueva York\u00bb y se vende como una forma de \u00abayudar a los propietarios de empresas a navegar por el gobierno\u00bb.<\/p>\n<p>Andrew Rigie, director ejecutivo de NYC Hospitality Alliance, dijo a The Markup que hab\u00eda encontrado imprecisiones en el propio robot y que hab\u00eda recibido informes de lo mismo de al menos un propietario de una empresa local.  Pero la portavoz de la Oficina de Tecnolog\u00eda e Innovaci\u00f3n de la Ciudad de Nueva York, Leslie Brown, dijo a The Markup que el robot \u00abya ha proporcionado a miles de personas respuestas oportunas y precisas\u00bb y que \u00abcontinuaremos enfoc\u00e1ndonos en actualizar esta herramienta para que podamos apoyar mejor a las peque\u00f1as empresas en todo el mundo\u00bb. la ciudad.\u00bb<\/p>\n<figure class=\"video\">\n<p><iframe loading=\"lazy\" title=\"Mayor Eric Adams Makes Technology-Related Announcement\" width=\"640\" height=\"360\" src=\"https:\/\/www.youtube.com\/embed\/GyHhqZgZbr8?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe><\/p><figcaption class=\"caption\">\n<p>El alcalde de Nueva York, Eric Adams, promociona el chatbot MyCity en un evento de anuncio en octubre.<\/p>\n<\/figcaption><\/figure>\n<p>El informe de Markup destaca el peligro de que los gobiernos y las corporaciones lancen chatbots al p\u00fablico antes de que su precisi\u00f3n y confiabilidad hayan sido completamente examinadas.  El mes pasado, un tribunal oblig\u00f3 a Air Canada a respetar una pol\u00edtica de reembolso fraudulenta inventada por un chatbot disponible en su sitio web.  Un informe reciente del Washington Post encontr\u00f3 que los chatbots integrados en los principales programas de preparaci\u00f3n de impuestos proporcionan \u00abrespuestas aleatorias, enga\u00f1osas o inexactas\u00bb a muchas consultas sobre impuestos.  Y algunos ingenieros astutos y r\u00e1pidos han <a href=\"https:\/\/twitter.com\/ChrisJBakke\/status\/1736533308849443121\" target=\"_blank\" rel=\"noopener\">Seg\u00fan se informa, ha podido enga\u00f1ar a los chatbots de los concesionarios de autom\u00f3viles.<\/a> a aceptar una \u00aboferta legalmente vinculante, sin contrapartidas\u00bb por un autom\u00f3vil de 1 d\u00f3lar.<\/p>\n<p>Este tipo de problemas ya est\u00e1n alejando a algunas empresas de los chatbots m\u00e1s generalizados impulsados \u200b\u200bpor LLM y hacia modelos de generaci\u00f3n aumentada de recuperaci\u00f3n m\u00e1s espec\u00edficamente entrenados, que se han ajustado solo a un peque\u00f1o conjunto de informaci\u00f3n relevante.  Ese tipo de enfoque podr\u00eda volverse mucho m\u00e1s importante si la FTC tiene \u00e9xito en sus esfuerzos por responsabilizar a los chatbots por informaci\u00f3n \u00abfalsa, enga\u00f1osa o despectiva\u00bb.<\/p>\n<\/p><\/div>\n<p><script async src=\"\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><br \/>\n<br \/><br \/>\n<br \/><a href=\"https:\/\/magazineoffice.com\/\">Source link-49<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Agrandar \/ \u00bfUn empleado del gobierno ha comprobado todos esos ceros y unos que flotan sobre el horizonte? Si sigues las noticias sobre IA generativa, probablemente est\u00e9s familiarizado con la&hellip;<\/p>\n","protected":false},"author":1,"featured_media":1074310,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21980],"tags":[23592,29,194,5471,246,13167,40933,254,16442,15,8042],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/1074308"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=1074308"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/1074308\/revisions"}],"predecessor-version":[{"id":1074311,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/1074308\/revisions\/1074311"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/1074310"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=1074308"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=1074308"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=1074308"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}