{"id":751689,"date":"2023-07-31T01:36:44","date_gmt":"2023-07-31T01:36:44","guid":{"rendered":"https:\/\/magazineoffice.com\/tarifas-de-uso-de-ia-hasta-15-veces-mas-baratas-para-ingles-que-para-otros-idiomas\/"},"modified":"2023-07-31T01:36:47","modified_gmt":"2023-07-31T01:36:47","slug":"tarifas-de-uso-de-ia-hasta-15-veces-mas-baratas-para-ingles-que-para-otros-idiomas","status":"publish","type":"post","link":"https:\/\/magazineoffice.com\/tarifas-de-uso-de-ia-hasta-15-veces-mas-baratas-para-ingles-que-para-otros-idiomas\/","title":{"rendered":"Tarifas de uso de IA hasta 15 veces m\u00e1s baratas para ingl\u00e9s que para otros idiomas"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div id=\"article-body\">\n<p>El idioma que est\u00e1 utilizando para un modelo de idioma grande (LLM) puede tener un gran efecto en su costo y crear una divisi\u00f3n de IA entre los angloparlantes y el resto del mundo.  Un estudio reciente muestra que, debido a la forma en que los servicios como OpenAI miden y facturan los costos del servidor, las entradas y salidas en ingl\u00e9s son mucho m\u00e1s baratas que las de otros idiomas. El chino simplificado cuesta aproximadamente el doble y el espa\u00f1ol cuesta 1,5 veces m\u00e1s. y el idioma Shan va por 15 veces m\u00e1s.<\/p>\n<p>El usuario de Twitter Dylan Patel (@dlan522p) comparti\u00f3 una fotograf\u00eda que conduce a una investigaci\u00f3n realizada por la Universidad de Oxford que descubri\u00f3 que pedirle a un LLM que procese una oraci\u00f3n escrita en birmano cuesta 198 tokens, mientras que la misma oraci\u00f3n en ingl\u00e9s cuesta solo 17 tokens.  Tokens que representan el costo de poder de c\u00f3mputo de acceder a un LLM a trav\u00e9s de una API (como ChatGPT de OpenAI o Claude 2 de Anthropic), esto significa que la oraci\u00f3n en birmano cuesta 11 veces m\u00e1s a trav\u00e9s del servicio que la escrita en ingl\u00e9s.<\/p>\n<div class=\"see-more see-more--clipped\">\n<blockquote class=\"twitter-tweet hawk-ignore\" data-lang=\"en\">\n<p lang=\"en\" dir=\"ltr\">El costo de la inferencia LLM var\u00eda enormemente seg\u00fan el idioma para GPT-4 y la mayor\u00eda de los otros LLM comunes. El ingl\u00e9s es el m\u00e1s barato. El chino es 2 veces m\u00e1s ingl\u00e9s. Los idiomas como Shan + Birmano son 15 veces m\u00e1s caros. necesito generar m\u00e1s tokens pic.twitter.com\/Y7De09pb4w<a href=\"https:\/\/twitter.com\/dylan522p\/status\/1685038026228129796\" data-url=\"https:\/\/twitter.com\/dylan522p\/status\/1685038026228129796\" target=\"_blank\" rel=\"noopener\">28 de julio de 2023<\/a><\/p>\n<\/blockquote>\n<p><span class=\"see-more__button\" role=\"button\" tabindex=\"0\" aria-label=\"See more\">Ver m\u00e1s<\/span><\/p>\n<\/div>\n<aside class=\"hawk-nest\" data-render-type=\"fte\" data-skip=\"dealsy\" data-widget-type=\"seasonal\"\/>\n<p>El modelo de tokenizaci\u00f3n (en el que las empresas de inteligencia artificial convierten la entrada del usuario en costo computacional) significa que, en un mundo menos que ideal, los modelos a los que se accede fuera de la ventana del idioma ingl\u00e9s son mucho m\u00e1s costosos para acceder y capacitarse.  Esto se debe a que los idiomas como el chino tienen una estructura diferente y m\u00e1s compleja (ya sea gramaticalmente o por el n\u00famero de caracteres) que el ingl\u00e9s, lo que da como resultado una mayor tasa de tokenizaci\u00f3n. <\/p>\n<p>Por ejemplo, seg\u00fan el tokenizador GPT3 de OpenAI, dar a alguien una muestra de \u00abtu afecto\u00bb ser\u00eda solo dos tokens en ingl\u00e9s pero ocho tokens en chino simplificado.  Esto es cierto a pesar de que el texto en chino simplificado tiene solo 4 caracteres (\u4f60\u7684\u7231\u610f) y el ingl\u00e9s tiene 14 caracteres.  La p\u00e1gina Equidad de tokenizaci\u00f3n de Aleksandar Petrov et al tiene una serie de gr\u00e1ficos y herramientas que puede usar para ver la disparidad entre idiomas.<\/p>\n<p>OpenAI en s\u00ed tiene una p\u00e1gina bastante \u00fatil que explica c\u00f3mo monetiza el acceso a la API y el uso de su modelo ChatGPT, que incluso incluye acceso a una herramienta de tokenizaci\u00f3n que puede usar para probar el costo del token por aviso.  All\u00ed, vemos que 1 token tiene alrededor de 4 caracteres en ingl\u00e9s y que 100 tokens ser\u00edan alrededor de 75 palabras en ingl\u00e9s.  Pero esa matem\u00e1tica simplemente no se puede aplicar a ning\u00fan otro idioma, como lo expresa claramente OpenAI. <\/p>\n<figure>\n<blockquote>\n<p>La forma en que las palabras se dividen en tokens tambi\u00e9n depende del idioma.  Por ejemplo, &#8216;C\u00f3mo est\u00e1s&#8217; (&#8216;How are you&#8217; en espa\u00f1ol) contiene 5 tokens (para 10 caracteres).  La proporci\u00f3n m\u00e1s alta de token a char puede hacer que sea m\u00e1s costoso implementar la API para otros idiomas adem\u00e1s del ingl\u00e9s.<\/p><figcaption><cite>IA abierta<\/cite><\/figcaption><\/blockquote>\n<\/figure>\n<p>Realmente no hay competencia contra la rentabilidad del ingl\u00e9s en los costos relacionados con la IA;  El chino, por ejemplo, cuesta el doble que el ingl\u00e9s en t\u00e9rminos de tokens requeridos por salida.  Pero es simplemente un reflejo de los datos de entrenamiento disponibles que las empresas de IA han utilizado (hasta ahora) para entrenar sus modelos.  Si hay algo que la explosi\u00f3n de la IA ha hecho por el mundo es mostrar cu\u00e1n valiosos son realmente los datos emergentes de alta calidad (aquellos que se crean como un registro de la vida).<\/p>\n<div id=\"slice-container-vneSvA6QMhLVSsVEqMjYki-imageGallery-7\" class=\"slice-container imageGallery-wrapper vneSvA6QMhLVSsVEqMjYki-imageGallery-7 slice-container-imageGallery\">\n<div data-hydrate=\"true\" class=\"inline-gallery first-slide-only\">\n<p>Imagen <!-- -->1<!-- --> de <!-- -->2<\/p>\n<div style=\"overflow-x:hidden\" class=\"inline-gallery__items\">\n<div style=\"-webkit-flex-direction:row;flex-direction:row;-webkit-transition:all 0s ease 0s;transition:all 0s ease 0s;-webkit-transform:translate(0%, 0);transform:translate(0%, 0);direction:ltr;display:flex;will-change:transform\" class=\"react-swipeable-view-container\">\n<div style=\"width:100%;-webkit-flex-shrink:0;flex-shrink:0;overflow:auto\" aria-hidden=\"false\" data-swipeable=\"true\">\n<div class=\"items__item\">\n<div class=\"item__image-cont\">\n<div class=\"image-cont__image\">\n<figure class=\"image-wrapped__wrapper\" data-bordeaux-image-check=\"false\">\n<div class=\"image-wrapped__widthsetter\" style=\"max-width:943px\">\n<div class=\"image-wrapped__aspect-padding\" style=\"padding-bottom:79.2152704135737%\">\n<div data-hydrate=\"true\">\n<div class=\"lazy-observed\"><\/div>\n<\/div>\n<\/div>\n<\/div><figcaption class=\"caption-credit__figcaption\"><span class=\"caption-credit__caption\">La prueba de la herramienta tokenizadora arroja un costo de procesamiento en coreano que es un 33 % m\u00e1s costoso que en ingl\u00e9s (39 frente a 26 tokens) <!-- --> <\/span><span class=\"caption-credit__credit\" itemprop=\"copyrightHolder\">(Cr\u00e9dito de la imagen: Universidad de Exford)<\/span><\/figcaption><\/figure>\n<\/div>\n<\/div>\n<h4 class=\"item__title\">coreano vs ingles<\/h4>\n<div class=\"item__description\">\n<p>La herramienta tokenizadora disponible a trav\u00e9s de Oxford Paper nos brinda una ventana a los costos de tokenizaci\u00f3n en todos los idiomas.<\/p>\n<\/p><\/div>\n<\/div>\n<\/div>\n<div style=\"width:100%;-webkit-flex-shrink:0;flex-shrink:0;overflow:auto\" aria-hidden=\"true\" data-swipeable=\"true\">\n<div class=\"items__item\">\n<div class=\"item__image-cont\">\n<div class=\"image-cont__image\">\n<figure class=\"image-wrapped__wrapper\" data-bordeaux-image-check=\"false\">\n<div class=\"image-wrapped__widthsetter\" style=\"max-width:931px\">\n<div class=\"image-wrapped__aspect-padding\" style=\"padding-bottom:93.77013963480128%\">\n<div data-hydrate=\"true\">\n<div class=\"lazy-observed\"><img decoding=\"async\" src=\"https:\/\/vanilla.futurecdn.net\/cyclingnews\/media\/img\/missing-image.svg\" alt=\"Herramienta tokenizadora\" class=\"image-wrapped__image image__image\"\/><\/div>\n<\/div>\n<\/div>\n<\/div><figcaption class=\"caption-credit__figcaption\"><span class=\"caption-credit__caption\">El ruso, por otro lado, ve un aumento en la tokenizaci\u00f3n de 26 tokens en ingl\u00e9s a 59 en ruso, un aumento de costos de casi el 100%.<!-- --> <\/span><span class=\"caption-credit__credit\" itemprop=\"copyrightHolder\">(Cr\u00e9dito de la imagen: Universidad de Exford)<\/span><\/figcaption><\/figure>\n<\/div>\n<\/div>\n<h4 class=\"item__title\">ruso vs ingles<\/h4>\n<div class=\"item__description\">\n<p>La herramienta tokenizadora disponible a trav\u00e9s de Oxford Paper nos brinda una ventana a los costos de tokenizaci\u00f3n en todos los idiomas.<\/p>\n<\/p><\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<p>Este problema se vincula directamente con el deseo de las empresas de IA de lograr un entrenamiento recursivo, o la capacidad de entrenar modelos de IA en sus propios resultados.  Si eso se logra, los modelos futuros seguir\u00e1n mostrando la misma rentabilidad del ingl\u00e9s en comparaci\u00f3n con otros idiomas cuya complejidad y disponibilidad m\u00e1s limitada de datos b\u00e1sicos de capacitaci\u00f3n.  Y cuando eso sucede, no es solo este c\u00edrculo vicioso de intolerancia algor\u00edtmica con el que tenemos que lidiar: tambi\u00e9n es que, por ahora, la investigaci\u00f3n apunta a que las redes de IA se vuelven LOCAS cuando se entrenan m\u00e1s de cinco veces con sus propios resultados (datos sint\u00e9ticos).<\/p>\n<p>Para complicar a\u00fan m\u00e1s el problema, parece que otras formas de cuantificar los costos (aparte de la tokenizaci\u00f3n) terminar\u00edan encontrando los mismos problemas.  Ya sea a trav\u00e9s del conteo de bits o de caracteres, aparentemente ning\u00fan idioma puede superar la practicidad pragm\u00e1tica del ingl\u00e9s: a\u00fan presentar\u00eda costos m\u00e1s bajos debido a su \u00abcompresibilidad\u00bb inherentemente m\u00e1s alta en un conteo de tokens m\u00e1s bajo. <\/p>\n<p>Eso significa que el problema no est\u00e1 en la forma en que se monetizaron los modelos;  es una limitaci\u00f3n real de la tecnolog\u00eda y los modelos base considerados para el entrenamiento.  Y no deber\u00eda sorprendernos saber que el problema afecta a varios modelos de idioma en sus versiones.  Despu\u00e9s de todo, todos est\u00e1n construidos en su mayor\u00eda de la misma manera.<\/p>\n<p>Este problema parece predecible si consideramos que las empresas que realmente est\u00e1n introduciendo Modelos de lenguaje extenso (como ChatGPT) o redes de im\u00e1genes generativas (como Midjourney) tienen su sede principalmente en Estados Unidos.  Los costos de uso m\u00e1s bajos y la mayor disponibilidad de datos de calidad vienen con el territorio, en cierto modo.<\/p>\n<p>Esta diferencia de costos ya ha llevado a varios pa\u00edses a lanzar sus propias iniciativas para capacitar e implementar un LLM en el idioma nativo.  Tanto China como India lo han hecho, y ambos afirmaron lo mismo: que sus planes eran necesarios para acompa\u00f1ar el ritmo de innovaci\u00f3n permitido por las redes de IA basadas en ingl\u00e9s.  Y esa tasa est\u00e1 mayormente limitada por los costos de acceso y capacitaci\u00f3n.<\/p>\n<p>Es natural que todo el mundo busque pagar lo menos posible por lo m\u00e1ximo posible;  y estas din\u00e1micas afectan directamente el costo de la capacitaci\u00f3n y el despliegue de LLM seg\u00fan el idioma base.  Es casi como si este negocio de la IA fuera tan complejo y sus consecuencias de tan largo alcance que tenemos que tener mucho cuidado con cada peque\u00f1o paso que damos.<\/p>\n<\/div>\n<p><script async src=\"\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><br \/>\n<br \/><br \/>\n<br \/><a href=\"https:\/\/magazineoffice.com\/\">Source link-41<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>El idioma que est\u00e1 utilizando para un modelo de idioma grande (LLM) puede tener un gran efecto en su costo y crear una divisi\u00f3n de IA entre los angloparlantes y&hellip;<\/p>\n","protected":false},"author":1,"featured_media":751690,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21980],"tags":[390,882,12588,3639,84,3523,107,15997,2219,1585],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/751689"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=751689"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/751689\/revisions"}],"predecessor-version":[{"id":751691,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/751689\/revisions\/751691"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/751690"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=751689"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=751689"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=751689"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}