\n
OpenAI nos trae GPT-4, la pr\u00f3xima evoluci\u00f3n del chatbot favorito de todos, ChatGPT. Adem\u00e1s de un modelo de lenguaje m\u00e1s avanzado que \u00abmuestra un rendimiento a nivel humano en varias pruebas profesionales y acad\u00e9micas\u00bb, la nueva versi\u00f3n acepta entradas de im\u00e1genes y promete un comportamiento de rechazo m\u00e1s estricto para evitar que cumpla con sus solicitudes adversas.<\/p>\n
El informe t\u00e9cnico adjunto de GPT-4 (se abre en una pesta\u00f1a nueva)<\/span> (PDF) advierte, sin embargo, que el nuevo modelo todav\u00eda tiene una capacidad relativamente alta para lo que los investigadores llaman \u00abalucinaciones\u00bb. Lo cual suena totalmente seguro.<\/p>\n\nLo que los investigadores quieren decir cuando se refieren a las alucinaciones es que el nuevo modelo ChatGPT, al igual que la versi\u00f3n anterior, tiene la tendencia a \u00abproducir contenido sin sentido o falso en relaci\u00f3n con ciertas fuentes\u00bb. <\/p>\n
Aunque los investigadores dejan en claro que \u00abGPT-4 fue entrenado para reducir la tendencia del modelo a alucinar al aprovechar los datos de modelos anteriores como ChatGPT\u00bb. Entonces, no solo lo est\u00e1n entrenando en sus propios balones sueltos, sino que tambi\u00e9n lo han estado entrenando a trav\u00e9s de la evaluaci\u00f3n humana. (se abre en una pesta\u00f1a nueva)<\/span>. <\/p>\n\u00abRecopilamos datos del mundo real que hab\u00edan sido marcados como no f\u00e1cticos, los revisamos y creamos un conjunto ‘f\u00e1ctico’ donde era posible hacerlo. Usamos esto para evaluar las generaciones de modelos en relaci\u00f3n con los ‘f\u00e1cticos’ establecer y facilitar las evaluaciones humanas\u00bb.<\/p>\n
El proceso parece haber ayudado significativamente cuando se trata de temas cerrados, aunque el chatbot todav\u00eda tiene problemas cuando se trata de temas m\u00e1s amplios. Como se\u00f1ala el documento, GPT-4 es un 29 % mejor que GPT-3.5 cuando se trata de chats de \u00abdominio cerrado\u00bb, pero solo un 19 % mejor para evitar las alucinaciones de \u00abdominio abierto\u00bb. <\/p>\n
SIGUIENTE (se abre en una pesta\u00f1a nueva)<\/span> explica la diferencia entre dominio abierto y dominio cerrado, en el sentido de que \u00abel control de calidad de dominio cerrado es un tipo de sistema de control de calidad que brinda respuestas basadas en un conjunto limitado de informaci\u00f3n dentro de un dominio espec\u00edfico o base de conocimientos\u00bb. En cambio, los sistemas de control de calidad de dominio abierto \u00abbrindan respuestas basadas en una amplia gama de informaci\u00f3n disponible en Internet y son m\u00e1s adecuados para necesidades de informaci\u00f3n espec\u00edficas y limitadas\u00bb.<\/p>\nAs\u00ed que s\u00ed, es probable que todav\u00eda veamos a Chat GPT-4 minti\u00e9ndonos sobre cosas.<\/p>\n
Por supuesto, los usuarios estar\u00e1n molestos porque el chatbot les proporcione informaci\u00f3n falsa, aunque este no es el mayor problema. Uno de los principales problemas es la \u00abdependencia excesiva\u00bb. La tendencia a alucinar \u00abpuede ser particularmente da\u00f1ina a medida que los modelos se vuelven cada vez m\u00e1s convincentes y cre\u00edbles, lo que hace que los usuarios conf\u00eden demasiado en ellos\u00bb, dice el documento.<\/p>\n
\u00abEn contra de la intuici\u00f3n, las alucinaciones pueden volverse m\u00e1s peligrosas a medida que los modelos se vuelven m\u00e1s veraces, ya que los usuarios generan confianza en el modelo cuando proporciona informaci\u00f3n veraz en \u00e1reas en las que est\u00e1n familiarizados\u00bb. Es natural para nosotros confiar en una fuente si ha sido precisa antes, pero un reloj averiado da la hora correcta dos veces al d\u00eda, como se suele decir.<\/p>\n
La confianza excesiva se vuelve particularmente problem\u00e1tica cuando el chatbot se integra en sistemas automatizados que nos ayudan a tomar decisiones dentro de la sociedad. Esto puede causar un ciclo de retroalimentaci\u00f3n que puede conducir a una \u00abdegradaci\u00f3n de la calidad general de la informaci\u00f3n\u00bb.<\/p>\n
\u00abEs crucial reconocer que el modelo no siempre es preciso al admitir sus limitaciones, como lo demuestra su tendencia a alucinar\u00bb.<\/p>\n
Dejando de lado los problemas, los desarrolladores parecen bastante optimistas sobre el nuevo modelo, al menos seg\u00fan la descripci\u00f3n general de GPT-4. (se abre en una pesta\u00f1a nueva)<\/span> en el sitio de OpenAI.<\/p>\n\u00abEncontramos y solucionamos algunos errores y mejoramos nuestros fundamentos te\u00f3ricos. Como resultado, nuestra ejecuci\u00f3n de entrenamiento de GPT-4 fue (\u00a1al menos para nosotros!) Estable sin precedentes\u00bb.<\/p>\n
Veremos eso cuando comience con la luz de gas nuevamente, aunque los colapsos (se abre en una pesta\u00f1a nueva)<\/span> de los que hemos o\u00eddo hablar provienen principalmente de la integraci\u00f3n ChatGPT de Bing.<\/p>\nChatGPT-4 est\u00e1 disponible en este momento para los usuarios de ChatGPT Pro, aunque incluso los clientes que pagan deben esperar que el servicio tenga una \u00abcapacidad severamente limitada\u00bb. <\/p>\n<\/div>\n
Source link-8 <\/a><\/p>\n","protected":false},"excerpt":{"rendered":"OpenAI nos trae GPT-4, la pr\u00f3xima evoluci\u00f3n del chatbot favorito de todos, ChatGPT. Adem\u00e1s de un modelo de lenguaje m\u00e1s avanzado que \u00abmuestra un rendimiento a nivel humano en varias…<\/p>\n","protected":false},"author":1,"featured_media":518251,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[34],"tags":[82334,16248,65604,640,104,3147,1437],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/518250"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=518250"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/518250\/revisions"}],"predecessor-version":[{"id":518252,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/518250\/revisions\/518252"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/518251"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=518250"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=518250"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=518250"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}