\n
Un equipo de investigadores del Instituto Tecnol\u00f3gico de Massachusetts (MIT) ha estado trabajando en un nuevo dise\u00f1o de resistencia de hardware para la pr\u00f3xima era de escalado electr\u00f3nico, particularmente en tareas de procesamiento de IA como el aprendizaje autom\u00e1tico y las redes neuronales. <\/p>\n
Sin embargo, en lo que puede parecer un retroceso (si es que puede existir un retroceso al futuro), su trabajo se centra en un dise\u00f1o que es m\u00e1s anal\u00f3gico que digital por naturaleza. Ingrese a las resistencias programables prot\u00f3nicas, construidas para acelerar las redes de IA al imitar nuestras propias neuronas (y sus sinapsis interconectadas) mientras acelera su operaci\u00f3n un mill\u00f3n de veces, y esa es la cifra real, no solo una hip\u00e9rbole.<\/p>\n\nTodo esto se hace mientras se reduce el consumo de energ\u00eda a una fracci\u00f3n de lo que requieren los dise\u00f1os basados \u200b\u200ben transistores que se utilizan actualmente para las cargas de trabajo de aprendizaje autom\u00e1tico, como el Wafer Scale Engine 2 de Cerebras, que bati\u00f3 r\u00e9cords.<\/p>\n
Si bien nuestras sinapsis y neuronas son extremadamente impresionantes desde el punto de vista computacional, est\u00e1n limitadas por su medio \u00abwetware\u00bb: el agua.<\/p>\n
Si bien la conducci\u00f3n el\u00e9ctrica del agua es suficiente para que nuestro cerebro funcione, estas se\u00f1ales el\u00e9ctricas funcionan a trav\u00e9s de potenciales d\u00e9biles: se\u00f1ales de alrededor de 100 milivoltios que se propagan durante milisegundos, a trav\u00e9s de \u00e1rboles de neuronas interconectadas (las sinapsis corresponden a las uniones a trav\u00e9s de las cuales las neuronas se comunican a trav\u00e9s de se\u00f1ales el\u00e9ctricas). Un problema es que el agua l\u00edquida se descompone con voltajes de 1,23 V, m\u00e1s o menos el mismo voltaje operativo que usan las mejores CPU actuales. Entonces, existe una dificultad en simplemente \u00abreutilizar\u00bb los dise\u00f1os biol\u00f3gicos para la computaci\u00f3n.<\/p>\n
\u201cEl mecanismo de trabajo del dispositivo es la inserci\u00f3n electroqu\u00edmica del ion m\u00e1s peque\u00f1o, el prot\u00f3n, en un \u00f3xido aislante para modular su conductividad electr\u00f3nica. Debido a que estamos trabajando con dispositivos muy delgados, podr\u00edamos acelerar el movimiento de este ion usando un fuerte campo el\u00e9ctrico y empujar estos dispositivos i\u00f3nicos al r\u00e9gimen de operaci\u00f3n de nanosegundos\u201d.<\/em> explica la autora principal Bilge Yildiz, profesora Breene M. Kerr en los departamentos de Ciencia e Ingenier\u00eda Nuclear y Ciencia e Ingenier\u00eda de Materiales.<\/p>\nOtro problema es que las neuronas biol\u00f3gicas no est\u00e1n construidas en la misma escala que los transistores modernos. Son mucho m\u00e1s grandes, con tama\u00f1os que van desde 4 micras (0,004 mm) hasta 100 micras (0,1 mm) de di\u00e1metro. Cuando las \u00faltimas GPU disponibles ya llevan transistores en el rango de 6 nm (donde un nan\u00f3metro es 1000 veces m\u00e1s peque\u00f1o que una micra), casi puedes imaginar la diferencia de escala y cu\u00e1ntas m\u00e1s de estas neuronas artificiales puedes colocar en el mismo espacio. .<\/p>\n
La investigaci\u00f3n se centr\u00f3 en la creaci\u00f3n de resistencias de estado s\u00f3lido que, como su nombre lo indica, crean resistencia al paso de la electricidad. Es decir, resisten el movimiento ordenado de los electrones (part\u00edculas con carga negativa). Si usar material que resiste el movimiento de la electricidad (y que a su vez deber\u00eda generar calor) suena contradictorio, bueno, lo es. Pero hay dos claras ventajas para el aprendizaje profundo anal\u00f3gico en comparaci\u00f3n con su contraparte digital.<\/p>\n
En primer lugar, al programar resistencias, incluye los datos necesarios para el entrenamiento en las propias resistencias. Cuando programa su resistencia (en este caso, aumentando o reduciendo la cantidad de protones en ciertas \u00e1reas del chip), est\u00e1 agregando valores a ciertas estructuras de chips. Esto significa que la informaci\u00f3n ya est\u00e1 presente en los chips anal\u00f3gicos: no hay necesidad de transportar m\u00e1s hacia los bancos de memoria externos, que es exactamente lo que sucede en la mayor\u00eda de los dise\u00f1os de chips actuales (y RAM o VRAM). Todo esto ahorra latencia y energ\u00eda.<\/p>\n
En segundo lugar, los procesadores anal\u00f3gicos del MIT est\u00e1n dise\u00f1ados en una matriz (\u00bfrecuerda los n\u00facleos Tensor de Nvidia?). Esto significa que se parecen m\u00e1s a sus GPU que a sus CPU, ya que realizan operaciones en paralelo. Todo el c\u00e1lculo ocurre simult\u00e1neamente.<\/p>\n
El dise\u00f1o de la resistencia prot\u00f3nica del MIT funciona a temperatura ambiente, que es m\u00e1s f\u00e1cil de lograr que los 38,5 \u00baC a 40 \u00baC de nuestro cerebro. Sin embargo, tambi\u00e9n permite la modulaci\u00f3n de voltaje, una caracter\u00edstica requerida en cualquier chip moderno, que permite aumentar o disminuir el voltaje de entrada seg\u00fan los requisitos de la carga de trabajo, con consecuencias en el consumo de energ\u00eda y la temperatura de salida.<\/p>\n
Seg\u00fan los investigadores, sus resistencias son un mill\u00f3n de veces m\u00e1s r\u00e1pidas (de nuevo, una cifra real) que los dise\u00f1os de la generaci\u00f3n anterior, debido a que est\u00e1n construidas con vidrio de fosfosilicato (PSG), un material inorg\u00e1nico que es (sorpresa) compatible con las t\u00e9cnicas de fabricaci\u00f3n de silicio. , porque es principalmente di\u00f3xido de silicio.<\/p>\n
Ya lo ha visto usted mismo: PSG es el material desecante en polvo que se encuentra en esas peque\u00f1as bolsas que vienen en la caja con nuevas piezas de hardware para eliminar la humedad.<\/p>\n
\u201cCon ese conocimiento clave y las poderosas t\u00e9cnicas de nanofabricaci\u00f3n que tenemos en <\/em>MIT.nano<\/em>hemos podido juntar estas piezas y demostrar que estos dispositivos son intr\u00ednsecamente muy r\u00e1pidos y funcionan con voltajes razonables\u201d.<\/em> dice el autor principal Jes\u00fas A. del \u00c1lamo, Profesor Donner en el Departamento de Ingenier\u00eda El\u00e9ctrica y Ciencias de la Computaci\u00f3n (EECS) del MIT. \u201cEste trabajo realmente ha puesto a estos dispositivos en un punto en el que ahora parecen realmente prometedores para futuras aplicaciones\u201d.<\/em><\/p>\nAl igual que con los transistores, cuantas m\u00e1s resistencias haya en un \u00e1rea m\u00e1s peque\u00f1a, mayor ser\u00e1 la densidad de c\u00f3mputo. Cuando llega a cierto punto, esta red puede entrenarse para lograr tareas complejas de IA como el reconocimiento de im\u00e1genes y el procesamiento del lenguaje natural. Y todo esto se hace con requisitos de energ\u00eda reducidos y un rendimiento extremadamente mayor.<\/p>\n
Quiz\u00e1s la investigaci\u00f3n de materiales salve a la Ley de Moore de su prematura muerte.<\/p>\n<\/div>\n
Source link-41<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"Un equipo de investigadores del Instituto Tecnol\u00f3gico de Massachusetts (MIT) ha estado trabajando en un nuevo dise\u00f1o de resistencia de hardware para la pr\u00f3xima era de escalado electr\u00f3nico, particularmente en…<\/p>\n","protected":false},"author":1,"featured_media":67047,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21980],"tags":[28612,3495,194,27290,575,246,23494,4780,6481,28611,28610],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/67046"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=67046"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/67046\/revisions"}],"predecessor-version":[{"id":67048,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/67046\/revisions\/67048"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/67047"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=67046"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=67046"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=67046"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}