Cuando Nvidia dijo que vendió hardware de centro de datos por valor de 10.300 millones de dólares en el segundo trimestre de su año fiscal 2024, podríamos imaginar que la compañía vendió toneladas de sus GPU de computación H100 de alta gama, pero la firma de investigación de mercado Omdia dice que Nvidia literalmente vendió 900 toneladas de procesadores H100 en el segundo trimestre del calendario 2023.
Omdia estima que Nvidia envió más de 900 toneladas (1,8 millones de libras) de GPU de cómputo H100 para aplicaciones de inteligencia artificial (IA) y computación de alto rendimiento (HPC) en el segundo trimestre. Omdia cree que el peso promedio de una GPU de cómputo Nvidia H100 con el disipador de calor es de más de 3 kilogramos (6,6 libras), por lo que Nvidia envió más de 300 mil H100 en el segundo trimestre.
La Nvidia H100 viene en tres factores de forma diferentes y todos tienen pesos diferentes. Una tarjeta PCIe Nvidia H100 pesa 1,2 kilogramos, y aunque se desconoce el peso del módulo SXM Nvidia H100 (hemos hecho ping a Nvidia), se desconoce el peso de un módulo OAM con disipador de calor, que tiene aproximadamente el mismo tamaño y TDP que un H100. SXM: alcanza un máximo de 2 kilogramos. Suponiendo que el 80% de los envíos de Nvidia H100 sean módulos y el 20% sean tarjetas, el peso medio de una sola H100 debería ser de unos 1,84 kilogramos. Omdia dice que estimó el peso en función de la cantidad de H100 que cree que Nvidia envió en el segundo trimestre calendario, por lo que el peso real puede ser inferior a 900 toneladas, pero aún podemos decir que Nvidia suministró literalmente toneladas de H100 en el segundo trimestre.
Omdia dice que espera que Nvidia venda aproximadamente la misma cantidad de GPU en los próximos trimestres, por lo que la compañía está en camino de vender alrededor de 3.600 toneladas, o 7,2 millones de libras, de GPU H100 este año. Eso equivale a aproximadamente 1,2 millones de GPU H100 por año, si el ritmo sigue siendo el mismo.
Esta es una estimación aproximada, pero enviar más de 300 mil GPU H100 en un trimestre es un gran logro. Si bien imaginamos que el número H100 incluye procesadores H800 orientados a China, también debemos tener en cuenta que la compañía envía toneladas (quizás literalmente) de sus GPU de computación A100, A800 y A30 de generación anterior a empresas que ya las usan para IA. inferencia y computación técnica, por lo que la cantidad real de GPU de computación que Nvidia vende por trimestre es considerablemente superior a 300 mil, y mucho más de 900 toneladas en total.
Obviamente, esto no es suficiente para satisfacer la insaciable demanda global de GPU: las GPU con inteligencia artificial de Nvidia se agotan más allá de fin de año. Como tal, podemos esperar que la tasa de envíos se acelere el próximo año a medida que Nvidia aproveche la moda de la IA generativa.
Para agregar más contexto a la historia, aquí hay algunas otras cosas que pesan 900 toneladas:
- 4,5 Boeing 747
- 11 orbitadores del transbordador espacial
- 215,827 galones de agua
- 299 Ford F150-Relámpagos
- 181.818 PlayStation 5
- 32,727 perros perdigueros de oro