{"id":1005224,"date":"2024-02-12T01:23:22","date_gmt":"2024-02-12T01:23:22","guid":{"rendered":"https:\/\/magazineoffice.com\/los-chatbots-de-google-y-microsoft-estan-inventando-las-estadisticas-del-super-bowl\/"},"modified":"2024-02-12T01:23:25","modified_gmt":"2024-02-12T01:23:25","slug":"los-chatbots-de-google-y-microsoft-estan-inventando-las-estadisticas-del-super-bowl","status":"publish","type":"post","link":"https:\/\/magazineoffice.com\/los-chatbots-de-google-y-microsoft-estan-inventando-las-estadisticas-del-super-bowl\/","title":{"rendered":"Los chatbots de Google y Microsoft est\u00e1n inventando las estad\u00edsticas del Super Bowl"},"content":{"rendered":"


\n<\/p>\n

\n
<\/div>\n<\/p><\/div>\n
\n

Si necesitara m\u00e1s evidencia de que GenAI es propenso a inventar cosas, el chatbot Gemini de Google, anteriormente Bard, cree que el Super Bowl de 2024 ya sucedi\u00f3. Incluso tiene estad\u00edsticas (ficticias) que lo respaldan.<\/p>\n

Seg\u00fan un hilo de Reddit, Gemini, impulsado por los modelos GenAI de Google del mismo nombre, est\u00e1 respondiendo preguntas sobre el Super Bowl LVIII como si el juego hubiera terminado ayer, o semanas antes. Como muchas casas de apuestas, parece favorecer a los Chiefs sobre los 49ers (lo siento, fan\u00e1ticos de San Francisco).<\/p>\n

Gemini embellece de manera bastante creativa, en al menos un caso brinda un desglose de las estad\u00edsticas del jugador que sugiere que el mariscal de campo jefe de Kansas, Patrick Mahomes, corri\u00f3 286 yardas para dos touchdowns y una intercepci\u00f3n frente a las 253 yardas terrestres y un touchdown de Brock Purdy.<\/p>\n

\"Super<\/p>\n

Cr\u00e9ditos de imagen:<\/strong> \/r\/monstruo maloliente (Se abre en una nueva ventana)<\/span><\/p>\n<\/div>\n

No es s\u00f3lo G\u00e9minis. El chatbot Copilot de Microsoft tambi\u00e9n insiste en que el juego termin\u00f3 y proporciona citas err\u00f3neas para respaldar la afirmaci\u00f3n. Pero… \u00a1quiz\u00e1s reflejando un sesgo de San Francisco! \u2013 dice que los 49ers, no los Chiefs, salieron victoriosos \u201ccon un marcador final de 24-21\u201d.<\/p>\n

\"Super<\/p>\n

Cr\u00e9ditos de imagen: <\/strong>Kyle Wiggers \/ TechCrunch<\/p>\n<\/div>\n

Copilot funciona con un modelo GenAI similar, si no id\u00e9ntico, al modelo que sustenta ChatGPT (GPT-4) de OpenAI. Pero en mis pruebas, ChatGPT se resist\u00eda a cometer el mismo error.<\/p>\n

\"ChatSuper<\/p>\n

Cr\u00e9ditos de imagen:<\/strong> Kyle Wiggers \/ TechCrunch<\/p>\n<\/div>\n

Todo es bastante tonto y posiblemente ya est\u00e9 resuelto, dado que este reportero no tuvo suerte al replicar las respuestas de Gemini en el hilo de Reddit. (Me sorprender\u00eda que Microsoft no estuviera trabajando tambi\u00e9n en una soluci\u00f3n). Pero tambi\u00e9n ilustra las principales limitaciones de la GenAI actual y los peligros de confiar demasiado en ella.<\/p>\n

Los modelos GenAI no tienen inteligencia real. Alimentados con una enorme cantidad de ejemplos generalmente obtenidos de la web p\u00fablica, los modelos de IA aprenden la probabilidad de que se produzcan datos (por ejemplo, texto) en funci\u00f3n de patrones, incluido el contexto de cualquier dato circundante.<\/p>\n

Este enfoque basado en la probabilidad funciona notablemente bien a escala. Pero si bien la gama de palabras y sus probabilidades son probable<\/em> dar como resultado un texto que tenga sentido, est\u00e1 lejos de ser seguro. Los LLM pueden generar algo que es gramaticalmente correcto pero sin sentido, por ejemplo, como la afirmaci\u00f3n sobre el Golden Gate. O pueden decir mentiras, propagando inexactitudes en sus datos de entrenamiento. <\/span><\/p>\n

\n

No es malicioso por parte de los LLM. No tienen malicia y los conceptos de verdadero y falso no tienen sentido para ellos. Simplemente han aprendido a asociar ciertas palabras o frases con ciertos conceptos, incluso si esas asociaciones no son precisas.<\/p>\n

De ah\u00ed las falsedades del Super Bowl de Gemini y Copilot.<\/p>\n

Google y Microsoft, como la mayor\u00eda de los proveedores de GenAI, reconocen f\u00e1cilmente que sus aplicaciones GenAI no son perfectas y, de hecho, son propensas a cometer errores. Pero estos reconocimientos vienen en forma de letra peque\u00f1a que yo dir\u00eda que f\u00e1cilmente podr\u00eda pasarse por alto.<\/p>\n<\/div>\n

La desinformaci\u00f3n del Super Bowl ciertamente no es el ejemplo m\u00e1s da\u00f1ino de c\u00f3mo GenAI se descarrila. Esa distinci\u00f3n probablemente radique en respaldar la tortura, reforzar los estereotipos \u00e9tnicos y raciales o escribir de manera convincente sobre teor\u00edas de conspiraci\u00f3n. Sin embargo, es un recordatorio \u00fatil para verificar las declaraciones de los robots GenAI. Existe una buena posibilidad de que no sean ciertas.<\/span><\/p>\n<\/p><\/div>\n


\n
Source link-48<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Si necesitara m\u00e1s evidencia de que GenAI es propenso a inventar cosas, el chatbot Gemini de Google, anteriormente Bard, cree que el Super Bowl de 2024 ya sucedi\u00f3. Incluso tiene…<\/p>\n","protected":false},"author":1,"featured_media":956381,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21980],"tags":[18766,33065,194,25092,681,3672,5597,246,8,683,1062],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/1005224"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=1005224"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/1005224\/revisions"}],"predecessor-version":[{"id":1005225,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/1005224\/revisions\/1005225"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/956381"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=1005224"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=1005224"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=1005224"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}