La empresa de fabricación de chips de IA, Tenstorrent, ha anunciado una colaboración con Samsung Foundry para desarrollar chiplets de última generación basados ​​en su arquitectura RISC-V.

La división de fundición de Samsung recibe un impulso con el acuerdo de Tenstorrent para el chiplet de IA RISC-V de próxima generación

Samsung ha aparecido en los titulares recientemente, especialmente debido a los recientes desarrollos dentro de su división de fundición. La empresa ha mostrado un gran optimismo hacia su proceso GAA de 3 nm, que ha despertado un inmenso interés por parte de la industria, con empresas como NVIDIA y AMD mirando su adopción futura. Aparte de eso, Samsung Foundry también ha perfeccionado su proceso de 4 nm, que según se informa ha conseguido importantes pedidos de la industria de centros de datos, y ahora busca hacer la transición también al desarrollo de chips.

Tenstorrent ha sido presentado como el próximo socio del gigante coreano, y la compañía planea fabricar su chiplet de próxima generación basado en RISC-V que apuntará al mercado de la IA. La compañía planea utilizar el proceso SF4X de Samsung, el nodo de 4 nm de gama más alta que ofrece actualmente la división de fundición. La compañía también obtuvo recientemente 100 millones de dólares de Hyundai y Samsung en un intento por crear chips de inteligencia artificial que rivalicen con NVIDIA.

El objetivo de Tenstorrent es desarrollar computación de alto rendimiento y ofrecer estas soluciones a clientes de todo el mundo.

Es genial que tengamos Keith Witek a bordo como nuestro director de operaciones para impulsar grandes asociaciones como esta que tenemos con Samsung. El compromiso de Samsung Foundry con el avance de la tecnología de semiconductores se alinea con nuestra visión de avanzar en RISC-V y la IA y los convierte en un socio ideal para llevar nuestros chips de IA al mercado.

Jim Keller (CEO de Tenstorrent)

La visión de Samsung para su división de fundición es amplia, ya que la compañía ha hecho todo lo posible para aprovechar cada oportunidad, especialmente con el reciente revuelo de la IA. Después de los esfuerzos de proponer un modelo de cadena de suministro híbrida a NVIDIA, Samsung finalmente logró asegurar pedidos de HBM, así como un posible acuerdo basado en el suministro de chips. Además, Samsung Foundry ha fortalecido sus vínculos con Team Red y ha asumido la responsabilidad de cumplir con los pedidos de HBM para los aceleradores de IA Instinct MI300X de AMD.

Parece que Samsung se encuentra en una muy buena posición en este momento, ya que cuenta con las instalaciones necesarias para asumir la responsabilidad de todas las etapas de producción, incluidas la memoria y los chips. Esto no sólo reduce el problema de tener múltiples proveedores, sino que, dado que Samsung es relativamente nuevo en comparación con empresas como TSMC, ha estado ofreciendo «ofertas» mucho más competitivas. Veamos cómo se desarrolla la situación, especialmente para la división de fundición de Samsung.

Fuente de noticias: Tenstorrent

El apetito por el hardware para entrenar modelos de IA es voraz.

Se prevé que los chips de IA representen hasta el 20% del mercado total de semiconductores de $ 450 mil millones para 2025, según McKinsey. Y The Insight Partners proyecta que las ventas de chips de IA aumentarán a $ 83,3 mil millones en 2027 desde $ 5,7 mil millones en 2018, una tasa de crecimiento anual compuesta del 35%. (Eso es cerca de 10 veces la tasa de crecimiento prevista para los chips que no son de IA).

Por ejemplo, Tenstorrent, la puesta en marcha de hardware de inteligencia artificial dirigida por la luminaria de la ingeniería Jim Keller, anunció esta semana que recaudó $ 100 millones en una ronda de financiación de notas convertibles codirigida por Hyundai Motor Group y Samsung Catalyst Fund.

De hecho, $50 millones del total provinieron de las dos unidades de fabricación de automóviles de Hyundai, Hyundai Motor ($30 millones) y Kia ($20 millones), que planean asociarse con Tenstorrent para desarrollar conjuntamente chips, específicamente CPU y coprocesadores de IA, para futuros vehículos de movilidad y robots. Samsung Catalyst y otros fondos de capital de riesgo, incluidos Fidelity Ventures, Eclipse Ventures, Epiq Capital y Maverick Capital, contribuyeron con los 50 millones de dólares restantes.

A diferencia de las acciones, una nota convertible es una deuda a corto plazo que se convierte en acciones en algún evento predeterminado. No está del todo claro por qué Tenstorrent optó por la deuda sobre el capital, ni tampoco la valoración posterior al dinero de la empresa. (Tenstorrent lo describió como un «redondeo ascendente» en un comunicado). Tenstorrent recaudó por última vez $ 200 millones con una valoración que eclipsa los $ 2 mil millones.

El tramo de notas convertibles, que contó con la participación de Fidelity Ventures, Eclipse Ventures, Epiq Capital, Maverick Capital y más, lleva el total recaudado de Tenstorrent a $334,5 millones. Keller dice que se destinará al desarrollo de productos, el diseño y desarrollo de chipsets de IA y la hoja de ruta del software de aprendizaje automático de Tenstorrent.

Tenstorrent, con sede en Toronto, vende procesadores de IA y otorga licencias de soluciones de software de IA e IP en torno a RISC-V, la arquitectura de conjunto de instrucciones de código abierto utilizada para desarrollar procesadores personalizados para una variedad de aplicaciones.

Fundada en 2016 por Ivan Hamer (exingeniero integrado de AMD), Ljubisa Bajic (exdirectora de diseño de circuitos integrados de AMD) y Milos Trajkovic (anteriormente ingeniero de diseño de firmware de AMD), Tenstorrent invirtió desde el principio la mayor parte de sus recursos en el desarrollo de su propia infraestructura interna. En 2020, Tenstorrent anunció Grayskull, un sistema todo en uno diseñado para acelerar el entrenamiento del modelo de IA en centros de datos, nubes públicas y privadas, servidores locales y servidores perimetrales, que presenta los núcleos Tensix patentados de Tenstorrent.

Pero en los años intermedios, tal vez sintiendo la presión de los titulares como Nvidia, Tenstorrent cambió su enfoque hacia las licencias y los servicios y Bajic, una vez a la cabeza, pasó lentamente a desempeñar un papel de asesor.

En 2021, Tenstorrent lanzó DevCloud, un servicio basado en la nube que permite a los desarrolladores ejecutar modelos de IA sin tener que comprar hardware primero. Y, más recientemente, la compañía estableció asociaciones con el fabricante de sistemas de servidor con sede en India, Bodhi Computing, y LG para integrar los productos de Tenstorrent en los servidores del primero y en los productos automotrices y televisores del segundo. (Como parte del acuerdo con LG, Tenstorrent dijo que trabajaría con LG para ofrecer un procesamiento de video mejorado en los próximos productos de centro de datos de Tenstorrent).

Tenstorrent, nada menos que ambicioso, abrió una oficina en Tokio en marzo para expandirse más allá de sus oficinas en Toronto, Austin y Silicon Valley.

La pregunta es si competirá contra los otros pesos pesados ​​en la carrera de chips de IA.

Google creó un procesador, el TPU (abreviatura de «unidad de procesamiento de tensor»), para entrenar grandes sistemas generativos de IA como PaLM-2 e Imagen. Amazon ofrece chips patentados a los clientes de AWS tanto para capacitación (Trainium) como para inferencia (Inferentia). Y, según se informa, Microsoft está trabajando con AMD para desarrollar un chip de IA interno llamado Athena.

Mientras tanto, Nvidia se convirtió brevemente en una empresa de $ 1 billón este año, aumentando la demanda de sus GPU para el entrenamiento de IA. (A partir del segundo trimestre de 2022, Nvidia retuvo una participación del 80 % en el mercado de GPU discreto). Las GPU, aunque no necesariamente son tan capaces como los chips de IA diseñados a medida, tienen la capacidad de realizar muchos cálculos en paralelo, lo que las hace muy adecuadas para el entrenamiento. los modelos más sofisticados de la actualidad.

Ha sido un entorno difícil para las nuevas empresas e incluso para los gigantes tecnológicos, como era de esperar. El año pasado, el fabricante de chips de inteligencia artificial Graphcore, cuya valoración se redujo en $ 1 mil millones después de que fracasara un acuerdo con Microsoft, dijo que estaba planeando recortes de empleos debido al entorno macroeconómico «extremadamente desafiante». Mientras tanto, Habana Labs, la empresa de chips de inteligencia artificial propiedad de Intel, despidió aproximadamente al 10% de su fuerza laboral.

Para complicar las cosas, hay escasez de los componentes necesarios para construir chips de IA. El tiempo dirá, como siempre lo hace, qué proveedores salen victoriosos.

Tenstorrent, la startup de IA con sede en Canadá encabezada por el veterano de la industria, Jim Keller, ha obtenido una nueva ronda de financiación de Hyundai y Samsung, ya que planean interrumpir el monopolio de NVIDIA en el espacio de la IA.

Tenstorrent continúa acumulando fondos mientras Jim Keller observa el impulso de IA de NVIDIA

La última financiación para Tenstorrent proviene de Hyundai Motor Group y Samsung Catalyst Fund (una rama de riesgo/inversión de Samsung Electronics). El monto por valor de $ 100 millones eleva el financiamiento total asegurado por la compañía a $ 334.5 millones que también recibió de otras firmas como Fidelity Ventures, Eclipse Ventures, Epiq Capital y Maverick Capital. La financiación de $100 millones se divide en $50 millones de Samsung, $30 millones de Hyundai y $20 millones de KIA. Estos principales fabricantes de automóviles respaldan a Tenstorrent para utilizar su futuro hardware de inteligencia artificial en una serie de vehículos autónomos de última generación.

Pero el objetivo principal de la financiación es romper el monopolio de NVIDIA en el espacio de la IA y si hay una persona que tiene la experiencia en ingeniería y la visión para hacerlo, ese es Jim Keller. Jim no solo incorporó al pico AMD al juego con la revolucionaria arquitectura de núcleo Zen de la que era responsable, sino que también trabajó en Apple e Intel en el diseño de sus arquitecturas de núcleo de última generación.

Hablando con ZDNET, Jim afirmó que actualmente, NVIDIA se encuentra en una posición tan dominante que prácticamente tiene el monopolio dentro del segmento de IA. Se llevan la mayor parte de los ingresos por cada solución de IA que hace uso de su infraestructura de chips (tanto hardware como software) y eso debe cambiar.

«Nvidia tiene el monopolio [profit margins]», dijo Jim Keller, CEO de la startup de chips AI Tenstorrent, en una entrevista exclusiva con ZDNET. «Si desea construir una solución de alto rendimiento con AI dentro, Nvidia controlará la mayor parte del margen en el producto. El problema con la estrategia de que el ganador se lo lleva todo es que genera un entorno económico en el que la gente realmente quiere una alternativa».

«No se puede dar un margen bruto del 60 % a Nvidia por un producto estándar, para ser honesto, y están buscando opciones».

Jim Keller, CEO de Tenstorrent (a través de ZDNET)

En una conferencia reciente en Tokio, Japón, Jim destacó que está construyendo CPU de IA basadas en RISC-V que competirán con las GPU de IA de NVIDIA. La idea fundamental es que la IA no siempre se tratará de CUDA o PyTorch y, si bien las GPU pueden ser la mejor solución para la IA en la actualidad, podría haber algo más en el futuro que ofrezca un mejor rendimiento y capacidades de la IA. AMD ROCm también facilitó recientemente la transferencia de código y aplicaciones CUDA para desarrolladores, mientras que Tenstorrent está desarrollando su propio marco BUDA de código abierto del que hablamos aquí.

«No creo que esto, las GPU que ejecutan CUDA y PyTorch, sea el juego final para la IA en absoluto. Cuando los extraterrestres aterricen, no creo que nos pregunten: ‘¿Inventamos CUDA?’ bromeó Keller, refiriéndose a la plataforma de software de Nvidia para ejecutar esas redes neuronales.

«Si bien las GPU tienen éxito hoy en día, no son la mejor respuesta obvia, son más como la respuesta suficientemente buena que estaba disponible».

«Decidimos construir un procesador RISC-V para que sea un compañero informático de propósito general del procesador de IA porque la informática de propósito general y la IA van a trabajar juntas, y deben estar estrechamente integradas».

Para hacerlo, «contraté a algunos de los mejores diseñadores de AMD, Apple y Nvidia», dijo Keller, quien dijo que está en «la aventura del equipo». «Tenemos un gran equipo de CPU; estoy muy, muy entusiasmado».

Jim Keller, CEO de Tenstorrent (a través de ZDNET)

Pero eso no significa que Jim Keller no aprecie la decisión de NVIDIA y Jensen de centrarse en la pila de software para IA y HPC desde el principio, lo que ayudó a impulsar a la empresa a nuevas alturas cuando la IA vio suceder su momento iPhone.

Jim Keller ve la ola actual de IA como una «Guerra de la Computación» con múltiples gigantes tecnológicos y nuevas empresas que intentan ofrecer la mejor solución para satisfacer la demanda acelerada. Quien llegue a la cima es algo que solo el tiempo dirá, ya que la IA aún está en su infancia y si realmente es lo que impulsaría la próxima generación de computación, entonces NVIDIA tuvo un comienzo afortunado. AMD e Intel están trabajando en sus respectivas familias de IA, mientras que Tenstorrent también ha presentado una hoja de ruta de su tecnología futura que abarca varios años.

El CEO de Tenstorrent, Jim Keller, reveló una hoja de ruta actualizada del producto RISC-V y cómo planea abordar el dominio de la IA de NVIDIA utilizando CPU y no GPU.

Tenstorrent abordará el dominio de la IA de NVIDIA aprovechando RISC-V y la tecnología Chiplet para las CPU de IA

Durante una conferencia reciente en Tokio, Japón, como parte de los «RISC-V Days Tokyo 2023 Summer», el conocido y legendario Jim Keller reveló sus planes para impulsar la industria de la IA utilizando la arquitectura RISC-V y el uso de diseños de chiplets. Jim señaló que si bien NVIDIA y AMD se han centrado en las GPU para los avances de la IA, él cree que las CPU diseñadas específicamente para ejecutar cargas de trabajo de IA pueden lograr una mayor eficiencia y hacer un trabajo mucho mejor que las GPU tradicionales.

«La GPU de NVIDIA respondió al momento en que la tendencia de la IA aumentó considerablemente. Sin embargo, las GPU no están optimizadas para el procesamiento de IA. Hemos demostrado que nuestro acelerador de IA supera la eficiencia. Además, uno de los problemas con el procesamiento de IA por GPU es que el acceso a la CPU y la memoria se convierte en un cuello de botella. La generación de la migración Blackhole, que integra RISC-V como una CPU, elimina estos cuellos de botella. Como resultado, se pueden realizar más computadoras con IA de bajo costo y ahorro de energía».

Jim Keller (Traducción automática a través de ITMedia)

Raja Koduri, el arquitecto jefe detrás de RTG de AMD y el vicepresidente ejecutivo y jefe de la división de GPU de Intel, también se fue para unirse a la junta directiva de Tenstorrent.

La razón detrás de esto es el hecho de que los precios de GPU y el consumo de energía han estado subiendo y eso no es sostenible para la industria de la IA en sí. Una CPU puede integrar algunas de las tecnologías utilizadas por las GPU y RISC-V también puede evitar las costosas licencias que a menudo se asocian con el uso de chips Intel, AMD y ARM. También se revela que, si bien CUDA sigue siendo dominante en el campo de IA y HPC, el compilador BUDA también se puede usar para ejecutar algunos de los lenguajes de alto nivel, como PyTorch y Java, que se usan ampliamente en el dominio de IA, mientras que un compilador de bajo nivel. También se está trabajando en un lenguaje de programación de nivel bajo en forma de BUDA M (M de Metal), que esencialmente será un reemplazo de CUDA.

«Muchos desarrolladores de IA están programados a partir de lenguajes de alto nivel como PyTorch y Java. Creemos que nuestro compilador actual «Buda» se puede usar para ejecutar, y la demostración ya se está ejecutando. Por otro lado, los científicos de datos necesitan programación de bajo nivel como CUDA. Nos gustaría responder proporcionando a los desarrolladores Buda M (M significa metal)».

Jim Keller (traducido automáticamente a través de PC Watch)

Al mostrar su hoja de ruta de hardware, Tenstorrent reveló que actualmente planean ofrecer chips RISC-V y AI en forma de diseños heterogéneos y de chiplet. La empresa ya presentó GraySkull y Wormhole, que presentaban un nodo de proceso de 12 nm y capacidades de cómputo de hasta 328 TFLOP (FP8) con Ethernet escalable de 200 GB/s. La compañía lanzará su chip Black Hole «Standalone ML Computer» que utilizará un nodo de proceso de 6 nm y contará con la arquitectura SiFive RISC-V X-280 para computación heterogénea. Se espera que este chip se lance en 2023.

A continuación, la compañía planea pasar a un diseño de chiplet con su diseño Quasar Low-Power and Low-Cost ML. Este chip utilizará una arquitectura de chiplet completa y se puede ampliar según las necesidades del cliente. Blackhole integrará CPU basadas en RSIC-V dentro de los aceleradores de IA y Tenstorrent planea lanzar su CPU basada en RISC-V de primera generación para fines de este año.

Pero los peces gordos se lanzarán en 2024 en la forma de «Grendel», que es un diseño de chiplet ML altamente configurable y de alto rendimiento que combinará el chiplet de la CPU con chiplets ML/AI dedicados de manera similar al GH200 de NVIDIA y el Grace/ Implementación de Hopper Superchips. Se muestra que el lado de la CPU tiene 16 núcleos, mientras que los chipsets de IA contienen 40 núcleos cada uno para un total de 80 núcleos. El bloque de chiplet AI presenta cuatro chipsets de memoria y lo mismo ocurre con el lado de la CPU: todo el chip está conectado a un chiplet IO que será responsable de PCIe y otras capacidades.

Tenstorrent también presentó su familia de procesadores RISC-V OoO, que incluye varias gamas de IP. La compañía también está desarrollando su CPU basada en RISC-V de segunda generación y también implementará nuevas funciones, como unidades de Vector Arithmetic, en los próximos chips.

Tenstorrent anunció además una nueva colaboración con LG que utilizará las tecnologías de IA de RISC-V para impulsar sus necesidades de IA dentro de su futura línea de productos. Además de esto, la UE y el mercado japonés ya están desarrollando una gama de sistemas con arquitectura RISC-V y también están experimentando una mayor adopción en el mercado automovilístico japonés. Además de esto, Jim también presentó la misma diapositiva de proyección con el rendimiento de AMD Zen 5 y NVIDIA Grace antes del cual puede leer más aquí.

Fuentes de noticias: PC Watch, ITMedia

Solo dos semanas después de retirarse de Intel, Raja Koduri se unió a la junta directiva de Tenstorrent, una empresa de CPU RISC-V de alto rendimiento e inteligencia artificial que tiene la intención de desafiar al gigante azul en los próximos años, como lo notó @SquashBionic. Un renombrado desarrollador de GPU para gráficos y computación, Raja Koduri se unirá a sus antiguos colegas de AMD, ATI e Intel.

Tenstorrent está desarrollando soluciones para centros de datos que comprenden aceleradores AI/ML basados ​​en RISC-V, así como procesadores de propósito general RISC-V de alto rendimiento. La empresa fue establecida en 2016 por Ljubisa Bajic, y actualmente está dirigida por Jim Keller, un renombrado arquitecto de CPU que ha encabezado la creación de arquitecturas de procesador revolucionarias en empresas como Apple, AMD y DEC. (Recientemente describimos los planes a corto y mediano plazo de Tenstorrent).

A decir verdad, un puesto en la junta directiva no implica que Raja pueda influir en el desarrollo de CPU o aceleradores de IA. Sin embargo, tendrá su palabra al establecer los objetivos estratégicos y la hoja de ruta estratégica de Tenstorrent, algo que es particularmente importante. Como desarrollador de aceleradores de IA y CPU RISC-V de alto rendimiento, Tenstorrent esencialmente viaja en aguas desconocidas, ya que las tecnologías relacionadas con la IA están cambiando rápidamente, mientras que la microarquitectura RISC-V de código abierto está lista para cambiar rápidamente en general.

En gran medida, el desarrollo del hardware AI y RISC-V en la actualidad se parece al desarrollo de las GPU en las décadas de 1990 y 2000, cuando las empresas probaron una variedad de enfoques y, por lo general, cambiaron radicalmente las microarquitecturas una vez cada uno o dos años. Eso es algo que apenas vemos en estos días en los campos de las CPU x86 y Arm, así como en las GPU de compañías como Arm, AMD, Nvidia e Intel.