{"id":827885,"date":"2023-10-01T13:01:26","date_gmt":"2023-10-01T13:01:26","guid":{"rendered":"https:\/\/magazineoffice.com\/chinchilla-ai-de-deepmind-brinda-con-flac-y-png-por-la-compresion-de-datos-sin-perdidas-a-pesar-de-ser-esencialmente-solo-un-modelo-de-lenguaje-grande\/"},"modified":"2023-10-01T13:01:31","modified_gmt":"2023-10-01T13:01:31","slug":"chinchilla-ai-de-deepmind-brinda-con-flac-y-png-por-la-compresion-de-datos-sin-perdidas-a-pesar-de-ser-esencialmente-solo-un-modelo-de-lenguaje-grande","status":"publish","type":"post","link":"https:\/\/magazineoffice.com\/chinchilla-ai-de-deepmind-brinda-con-flac-y-png-por-la-compresion-de-datos-sin-perdidas-a-pesar-de-ser-esencialmente-solo-un-modelo-de-lenguaje-grande\/","title":{"rendered":"Chinchilla AI de DeepMind brinda con FLAC y PNG por la compresi\u00f3n de datos sin p\u00e9rdidas a pesar de ser esencialmente solo un modelo de lenguaje grande"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div id=\"article-body\">\n<p>Si cree que FLAC es el amigo del audi\u00f3filo cuando se trata de archivos de m\u00fasica sin p\u00e9rdidas, un modelo de lenguaje grande (LLM) tiene noticias para usted, ya que ahora tambi\u00e9n reclama la compresi\u00f3n como parte del creciente \u00e1mbito de influencia de la IA. <\/p>\n<p>Un estudio titulado \u00abEl modelado del lenguaje es compresi\u00f3n\u00bb (a trav\u00e9s de ArsTechnica) analiza un hallazgo sobre un LLM de DeepMind llamado Chinchilla 70B y su capacidad para realizar una compresi\u00f3n de datos sin p\u00e9rdidas mejor que FLAC para audio y PNG para im\u00e1genes. <\/p>\n<p>Chinchilla 70B podr\u00eda reducir significativamente el tama\u00f1o de los parches de im\u00e1genes de la base de datos ImageNet, reduci\u00e9ndolos a s\u00f3lo el 43,4% de su tama\u00f1o original sin perder ning\u00fan detalle.  Este rendimiento es mejor que el algoritmo PNG, que s\u00f3lo pudo reducir el tama\u00f1o de las im\u00e1genes al 58,5%.<\/p>\n<p>Adem\u00e1s, Chinchilla comprime los datos de audio de LibriSpeech a s\u00f3lo el 16,4% de su tama\u00f1o real para archivos de sonido.  Esto es impresionante, especialmente comparado con la compresi\u00f3n FLAC, que s\u00f3lo pudo reducir el tama\u00f1o del audio al 30,3%.<\/p>\n<aside class=\"hawk-nest\" data-render-type=\"fte\" data-skip=\"dealsy\" data-widget-type=\"seasonal\"\/>\n<p>La compresi\u00f3n sin p\u00e9rdidas significa que no se pierde ni se omite nada cuando los datos se comprimen en paquetes m\u00e1s peque\u00f1os.  Esto difiere de la compresi\u00f3n con p\u00e9rdida, que es lo que utiliza el formato de compresi\u00f3n de im\u00e1genes JPEG.  Eso elimina algunos datos y luego adivina c\u00f3mo deber\u00eda verse cuando abres el archivo nuevamente, todo para hacer que el tama\u00f1o del archivo sea mucho m\u00e1s peque\u00f1o.<\/p>\n<p>Los hallazgos del estudio muestran que, aunque Chinchilla 70B fue dise\u00f1ada principalmente para trabajar con texto, tambi\u00e9n es sorprendentemente h\u00e1bil para hacer otros tipos de datos mucho m\u00e1s peque\u00f1os.  Y, a menudo, es mejor que los programas dise\u00f1ados espec\u00edficamente para hacerlo.<\/p>\n<p>Los investigadores del estudio sugieren que predecir y comprimir datos va en ambos sentidos.  Esto significa que si tiene una buena herramienta para reducir el tama\u00f1o de los datos, como gzip, tambi\u00e9n puede utilizarla para crear nueva informaci\u00f3n basada en lo que aprendi\u00f3 durante todo el proceso de reducci\u00f3n del tama\u00f1o de los datos.<\/p>\n<p>En una parte de su investigaci\u00f3n, probaron esta idea intentando crear texto, im\u00e1genes y sonido nuevos usando gzip y otra herramienta, Chinchilla, despu\u00e9s de darles una muestra de datos.  Como era de esperar, gzip no funcion\u00f3 muy bien y gener\u00f3 en su mayor\u00eda tonter\u00edas. <\/p>\n<p>Esto muestra que, si bien gzip puede crear datos, es posible que esos datos deban ser m\u00e1s significativos.  Por otro lado, Chinchilla, que est\u00e1 dise\u00f1ada espec\u00edficamente para procesar el lenguaje, obtuvo resultados mucho mejores en la creaci\u00f3n de resultados nuevos y significativos.<\/p>\n<p>Hace casi 20 a\u00f1os, los investigadores argumentaron que la compresi\u00f3n era una forma de inteligencia general y dijeron que \u00abla compresi\u00f3n de texto ideal, si fuera posible, equivaldr\u00eda a pasar la prueba de Turing para inteligencia artificial\u00bb.<\/p>\n<p>Sin embargo, como se\u00f1ala ArsTechnica, este art\u00edculo a\u00fan no ha sido revisado por pares.  La idea de que reducir el tama\u00f1o de los datos est\u00e1 relacionado con la inteligencia es un tema del que probablemente seguiremos escuchando en el futuro.  Todav\u00eda estamos apenas ara\u00f1ando la superficie de lo que estos LLM pueden hacer.<\/p>\n<\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/magazineoffice.com\/\">Source link-8 <\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Si cree que FLAC es el amigo del audi\u00f3filo cuando se trata de archivos de m\u00fasica sin p\u00e9rdidas, un modelo de lenguaje grande (LLM) tiene noticias para usted, ya que&hellip;<\/p>\n","protected":false},"author":1,"featured_media":827886,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[34],"tags":[10392,104970,34366,133,121,26578,47098,96793,2805,12901,1488,5227,184,26797,110,2118,1474,1126],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/827885"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=827885"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/827885\/revisions"}],"predecessor-version":[{"id":827887,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/827885\/revisions\/827887"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/827886"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=827885"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=827885"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=827885"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}