El CEO de Tenstorrent, Jim Keller, reveló una hoja de ruta actualizada del producto RISC-V y cómo planea abordar el dominio de la IA de NVIDIA utilizando CPU y no GPU.
Tenstorrent abordará el dominio de la IA de NVIDIA aprovechando RISC-V y la tecnología Chiplet para las CPU de IA
Durante una conferencia reciente en Tokio, Japón, como parte de los «RISC-V Days Tokyo 2023 Summer», el conocido y legendario Jim Keller reveló sus planes para impulsar la industria de la IA utilizando la arquitectura RISC-V y el uso de diseños de chiplets. Jim señaló que si bien NVIDIA y AMD se han centrado en las GPU para los avances de la IA, él cree que las CPU diseñadas específicamente para ejecutar cargas de trabajo de IA pueden lograr una mayor eficiencia y hacer un trabajo mucho mejor que las GPU tradicionales.
«La GPU de NVIDIA respondió al momento en que la tendencia de la IA aumentó considerablemente. Sin embargo, las GPU no están optimizadas para el procesamiento de IA. Hemos demostrado que nuestro acelerador de IA supera la eficiencia. Además, uno de los problemas con el procesamiento de IA por GPU es que el acceso a la CPU y la memoria se convierte en un cuello de botella. La generación de la migración Blackhole, que integra RISC-V como una CPU, elimina estos cuellos de botella. Como resultado, se pueden realizar más computadoras con IA de bajo costo y ahorro de energía».
Jim Keller (Traducción automática a través de ITMedia)
Raja Koduri, el arquitecto jefe detrás de RTG de AMD y el vicepresidente ejecutivo y jefe de la división de GPU de Intel, también se fue para unirse a la junta directiva de Tenstorrent.
La razón detrás de esto es el hecho de que los precios de GPU y el consumo de energía han estado subiendo y eso no es sostenible para la industria de la IA en sí. Una CPU puede integrar algunas de las tecnologías utilizadas por las GPU y RISC-V también puede evitar las costosas licencias que a menudo se asocian con el uso de chips Intel, AMD y ARM. También se revela que, si bien CUDA sigue siendo dominante en el campo de IA y HPC, el compilador BUDA también se puede usar para ejecutar algunos de los lenguajes de alto nivel, como PyTorch y Java, que se usan ampliamente en el dominio de IA, mientras que un compilador de bajo nivel. También se está trabajando en un lenguaje de programación de nivel bajo en forma de BUDA M (M de Metal), que esencialmente será un reemplazo de CUDA.
«Muchos desarrolladores de IA están programados a partir de lenguajes de alto nivel como PyTorch y Java. Creemos que nuestro compilador actual «Buda» se puede usar para ejecutar, y la demostración ya se está ejecutando. Por otro lado, los científicos de datos necesitan programación de bajo nivel como CUDA. Nos gustaría responder proporcionando a los desarrolladores Buda M (M significa metal)».
Jim Keller (traducido automáticamente a través de PC Watch)
Al mostrar su hoja de ruta de hardware, Tenstorrent reveló que actualmente planean ofrecer chips RISC-V y AI en forma de diseños heterogéneos y de chiplet. La empresa ya presentó GraySkull y Wormhole, que presentaban un nodo de proceso de 12 nm y capacidades de cómputo de hasta 328 TFLOP (FP8) con Ethernet escalable de 200 GB/s. La compañía lanzará su chip Black Hole «Standalone ML Computer» que utilizará un nodo de proceso de 6 nm y contará con la arquitectura SiFive RISC-V X-280 para computación heterogénea. Se espera que este chip se lance en 2023.
A continuación, la compañía planea pasar a un diseño de chiplet con su diseño Quasar Low-Power and Low-Cost ML. Este chip utilizará una arquitectura de chiplet completa y se puede ampliar según las necesidades del cliente. Blackhole integrará CPU basadas en RSIC-V dentro de los aceleradores de IA y Tenstorrent planea lanzar su CPU basada en RISC-V de primera generación para fines de este año.
Pero los peces gordos se lanzarán en 2024 en la forma de «Grendel», que es un diseño de chiplet ML altamente configurable y de alto rendimiento que combinará el chiplet de la CPU con chiplets ML/AI dedicados de manera similar al GH200 de NVIDIA y el Grace/ Implementación de Hopper Superchips. Se muestra que el lado de la CPU tiene 16 núcleos, mientras que los chipsets de IA contienen 40 núcleos cada uno para un total de 80 núcleos. El bloque de chiplet AI presenta cuatro chipsets de memoria y lo mismo ocurre con el lado de la CPU: todo el chip está conectado a un chiplet IO que será responsable de PCIe y otras capacidades.
Tenstorrent también presentó su familia de procesadores RISC-V OoO, que incluye varias gamas de IP. La compañía también está desarrollando su CPU basada en RISC-V de segunda generación y también implementará nuevas funciones, como unidades de Vector Arithmetic, en los próximos chips.
Tenstorrent anunció además una nueva colaboración con LG que utilizará las tecnologías de IA de RISC-V para impulsar sus necesidades de IA dentro de su futura línea de productos. Además de esto, la UE y el mercado japonés ya están desarrollando una gama de sistemas con arquitectura RISC-V y también están experimentando una mayor adopción en el mercado automovilístico japonés. Además de esto, Jim también presentó la misma diapositiva de proyección con el rendimiento de AMD Zen 5 y NVIDIA Grace antes del cual puede leer más aquí.
Fuentes de noticias: PC Watch, ITMedia