Samsung ha desarrollado el primer sistema informático a gran escala del mundo que conecta casi 100 GPU AMD Instinct MI100 con tecnología PIM.

Samsung presenta un sistema informático a gran escala con casi 100 GPU AMD Instinct MI100 con tecnología PIM

Los chips PIM integran un procesador con RAM en un chip individual. Se prevé que este avance tecnológico ayude con el rendimiento a gran escala de las cargas de trabajo de IA. En octubre, Samsung reveló que la empresa demostró cómo se podía combinar el rendimiento de un chip PIM con una unidad de procesamiento de gráficos AMD. Cuando la empresa entrenó el algoritmo del modelo de lenguaje T5 con este avance de próxima generación, el rendimiento aumentó más del doble y redujo el consumo de energía en un sistema sin PIM presentes.

Ahora tenemos el primer sistema informático a gran escala del mundo que alberga 96 GPU AMD Instinct MI100 que cuentan con la tecnología PIM ‘Processing-In-Memory’, lo que permite un impulso en los algoritmos de IA.

Hemos construido un gran sistema informático mediante la combinación de 96 GPU (MI100) de AMD de los Estados Unidos, cada una cargada con un chip PIM. Es el único de su tipo en el mundo.

— Choi Chang-kyu, vicepresidente y director del Centro de Investigación de IA, Instituto de Tecnología Avanzada de Samsung Electronics

La inteligencia artificial para la ciencia y la tecnología ha encontrado aceptación en el mundo actual, además de mostrar un amplio apoyo en los procesos de producción de semiconductores. Según Choi, la empresa también está explorando métodos para integrar el conocimiento que poseen los ingenieros de la empresa con los datos de inspección y encontrarle un uso en la producción.

Como director del centro de investigación de IA, quiero hacer de Samsung una empresa de semiconductores que utilice la IA mejor que cualquier otra empresa.

El método actual para verificar los rendimientos es limitado, ya que las pruebas solo se pueden realizar cada tres a seis meses cuando las obleas se colocan y retiran de la fábrica. Necesitamos pasar a una etapa en la que se puedan predecir los rendimientos utilizando sensores de IA y datos de inspección.

La Conferencia de tecnología futura de semiconductores de inteligencia artificial trajo organizaciones al sitio de la conferencia de Corea, como AI Semiconductor Forum, Next Generation Intelligence Semiconductor Foundation, PIM Artificial Intelligence Semiconductor Project Group, así como demostraciones en la industria, como DEEPX, Eyenix , ETRI, Furiosa AI, Nextchip, Nepes, Openedges Technology, SAPEON Korea y Telechips.

Fuente de noticias: Business Korea

Samsung ha construido el primer sistema informático a gran escala del mundo utilizando GPU con chips de procesamiento en memoria (PIM) integrados. Estos módulos de memoria, que se cargaron en 96 GPU AMD Instinct MI100, aumentaron el rendimiento del entrenamiento de IA en 2,5 veces, según un informe de Business Korea.

Samsung demostró originalmente las GPU modificadas con PIM en octubre, pero solo recientemente combinó 96 GPU modificadas con PIM en un clúster. En comparación con la memoria de video normal, estos chips MI100 modificados no solo funcionaron 2,5 veces mejor, sino que también redujeron el consumo de energía en 2,67 veces, lo que aumentó drásticamente la eficiencia de las GPU en la ejecución de algoritmos de IA.