El apetito por el hardware para entrenar modelos de IA es voraz.
Se prevé que los chips de IA representen hasta el 20% del mercado total de semiconductores de $ 450 mil millones para 2025, según McKinsey. Y The Insight Partners proyecta que las ventas de chips de IA aumentarán a $ 83,3 mil millones en 2027 desde $ 5,7 mil millones en 2018, una tasa de crecimiento anual compuesta del 35%. (Eso es cerca de 10 veces la tasa de crecimiento prevista para los chips que no son de IA).
Por ejemplo, Tenstorrent, la puesta en marcha de hardware de inteligencia artificial dirigida por la luminaria de la ingeniería Jim Keller, anunció esta semana que recaudó $ 100 millones en una ronda de financiación de notas convertibles codirigida por Hyundai Motor Group y Samsung Catalyst Fund.
De hecho, $50 millones del total provinieron de las dos unidades de fabricación de automóviles de Hyundai, Hyundai Motor ($30 millones) y Kia ($20 millones), que planean asociarse con Tenstorrent para desarrollar conjuntamente chips, específicamente CPU y coprocesadores de IA, para futuros vehículos de movilidad y robots. Samsung Catalyst y otros fondos de capital de riesgo, incluidos Fidelity Ventures, Eclipse Ventures, Epiq Capital y Maverick Capital, contribuyeron con los 50 millones de dólares restantes.
A diferencia de las acciones, una nota convertible es una deuda a corto plazo que se convierte en acciones en algún evento predeterminado. No está del todo claro por qué Tenstorrent optó por la deuda sobre el capital, ni tampoco la valoración posterior al dinero de la empresa. (Tenstorrent lo describió como un «redondeo ascendente» en un comunicado). Tenstorrent recaudó por última vez $ 200 millones con una valoración que eclipsa los $ 2 mil millones.
El tramo de notas convertibles, que contó con la participación de Fidelity Ventures, Eclipse Ventures, Epiq Capital, Maverick Capital y más, lleva el total recaudado de Tenstorrent a $334,5 millones. Keller dice que se destinará al desarrollo de productos, el diseño y desarrollo de chipsets de IA y la hoja de ruta del software de aprendizaje automático de Tenstorrent.
Tenstorrent, con sede en Toronto, vende procesadores de IA y otorga licencias de soluciones de software de IA e IP en torno a RISC-V, la arquitectura de conjunto de instrucciones de código abierto utilizada para desarrollar procesadores personalizados para una variedad de aplicaciones.
Una vista de arriba hacia abajo del hardware diseñado a medida de Tenstorrent para el procesamiento de IA. Créditos de imagen: Tentorrent
Fundada en 2016 por Ivan Hamer (exingeniero integrado de AMD), Ljubisa Bajic (exdirectora de diseño de circuitos integrados de AMD) y Milos Trajkovic (anteriormente ingeniero de diseño de firmware de AMD), Tenstorrent invirtió desde el principio la mayor parte de sus recursos en el desarrollo de su propia infraestructura interna. En 2020, Tenstorrent anunció Grayskull, un sistema todo en uno diseñado para acelerar el entrenamiento del modelo de IA en centros de datos, nubes públicas y privadas, servidores locales y servidores perimetrales, que presenta los núcleos Tensix patentados de Tenstorrent.
Pero en los años intermedios, tal vez sintiendo la presión de los titulares como Nvidia, Tenstorrent cambió su enfoque hacia las licencias y los servicios y Bajic, una vez a la cabeza, pasó lentamente a desempeñar un papel de asesor.
En 2021, Tenstorrent lanzó DevCloud, un servicio basado en la nube que permite a los desarrolladores ejecutar modelos de IA sin tener que comprar hardware primero. Y, más recientemente, la compañía estableció asociaciones con el fabricante de sistemas de servidor con sede en India, Bodhi Computing, y LG para integrar los productos de Tenstorrent en los servidores del primero y en los productos automotrices y televisores del segundo. (Como parte del acuerdo con LG, Tenstorrent dijo que trabajaría con LG para ofrecer un procesamiento de video mejorado en los próximos productos de centro de datos de Tenstorrent).
Tenstorrent, nada menos que ambicioso, abrió una oficina en Tokio en marzo para expandirse más allá de sus oficinas en Toronto, Austin y Silicon Valley.
La pregunta es si competirá contra los otros pesos pesados en la carrera de chips de IA.
Google creó un procesador, el TPU (abreviatura de «unidad de procesamiento de tensor»), para entrenar grandes sistemas generativos de IA como PaLM-2 e Imagen. Amazon ofrece chips patentados a los clientes de AWS tanto para capacitación (Trainium) como para inferencia (Inferentia). Y, según se informa, Microsoft está trabajando con AMD para desarrollar un chip de IA interno llamado Athena.
Mientras tanto, Nvidia se convirtió brevemente en una empresa de $ 1 billón este año, aumentando la demanda de sus GPU para el entrenamiento de IA. (A partir del segundo trimestre de 2022, Nvidia retuvo una participación del 80 % en el mercado de GPU discreto). Las GPU, aunque no necesariamente son tan capaces como los chips de IA diseñados a medida, tienen la capacidad de realizar muchos cálculos en paralelo, lo que las hace muy adecuadas para el entrenamiento. los modelos más sofisticados de la actualidad.
Ha sido un entorno difícil para las nuevas empresas e incluso para los gigantes tecnológicos, como era de esperar. El año pasado, el fabricante de chips de inteligencia artificial Graphcore, cuya valoración se redujo en $ 1 mil millones después de que fracasara un acuerdo con Microsoft, dijo que estaba planeando recortes de empleos debido al entorno macroeconómico «extremadamente desafiante». Mientras tanto, Habana Labs, la empresa de chips de inteligencia artificial propiedad de Intel, despidió aproximadamente al 10% de su fuerza laboral.
Para complicar las cosas, hay escasez de los componentes necesarios para construir chips de IA. El tiempo dirá, como siempre lo hace, qué proveedores salen victoriosos.