Las GPU Blackwell B200 AI de NVIDIA han comenzado a ganar atención en el mercado, ya que Meta espera recibir envíos iniciales a finales de este año.
Meta se convierte en el primer gran nombre en comenzar a adquirir las GPU Blackwell de NVIDIA y utilizarlas para formar el LLM exclusivo de la empresa
La conferencia GTC de NVIDIA ha demostrado ser un éxito para la empresa, especialmente en lo que respecta a la exposición en la industria que obtuvo con su última plataforma Blackwell AI. A la cabeza del grupo se encuentra el acelerador de IA Blackwell B200, que cuenta con avances de alto rendimiento con respecto a la generación Hopper anterior, lo que atrae un gran interés de la clientela.
Meta espera recibir envíos iniciales del nuevo chip insignia de IA de Nvidia, el chip B200 Blackwell, a finales de este año, informa Reuters, señalando que la directora financiera de Nvidia, Colette Kress, dijo sobre la GPU B200: «creemos que llegaremos al mercado más adelante este año». ”, pero los envíos de volumen no…
-Dan Nystedt (@dnystedt) 20 de marzo de 2024
Según se informa, Meta realizó pedidos iniciales para los B200, convirtiéndose en el primer gran nombre tecnológico en ordenar el último producto de inteligencia artificial de NVIDIA. Sin embargo, la directora financiera de NVIDIA, Colette Kress, ha expresado que la compañía ingresará a los mercados con sus productos Blackwell hasta 2025, lo que podría sugerir el cronograma para la adopción masiva de la línea.
No es un hecho oculto que Meta ha sido un «socio de hierro» para NVIDIA en su viaje hacia los mercados de IA y ha sido uno de los mayores clientes de la empresa, acumulando supuestamente 600.000 unidades de H100 a finales de este año, lo que sin duda es un número enorme. El director ejecutivo de Meta, Mark Zuckerberg, ya tiene la intención de entrenar el modelo LLM «Llama» de la compañía utilizando la plataforma Blackwell, potencialmente obteniendo ventaja en potencia informática sobre otros.
El director ejecutivo de Nvidia, Jensen Huang, dijo que está trabajando con TSMC para evitar cuellos de botella en el empaque de chips como el que se ve con el H100, informa Reuters. «El aumento del volumen de la demanda se produjo de forma bastante pronunciada la última vez, pero esta vez hemos tenido mucha visibilidad» de la demanda, dijo Huang. $ NVDA $TSM…
-Dan Nystedt (@dnystedt) 20 de marzo de 2024
El CEO de NVIDIA, Jensen Huang, también afirmó que el segmento de IA tiene una oportunidad de 250 mil millones de dólares cada año y que la compañía tendrá un gran porcentaje de ese valor con sus últimos aceleradores GPU de IA.
La oportunidad para el mundo actual es que el tamaño del centro de datos es de 1 billón de dólares. Bien. Y son 1 billón de dólares instalados, 250 mil millones de dólares al año. Vendemos un centro de datos completo en partes, por lo que nuestro porcentaje de esos 250 mil millones de dólares por año es probablemente mucho, mucho, mucho más alto que el de alguien que vende un chip. Podría ser un chip GPU, un chip CPU o un chip de red. Esa oportunidad no ha cambiado desde antes. Pero lo que NVIDIA fabrica es una plataforma informática acelerada a escala de centro de datos. Bueno. Por lo tanto, nuestro porcentaje de 250 mil millones de dólares probablemente será mayor que el del pasado.
Jensen Huang – CEO de NVIDIA (Preguntas y respuestas de GTC)
Para un resumen rápido de qué esperar del Blackwell B200, incorpora 160 SM para 20,480 núcleos. La GPU contará con la última tecnología de interconexión NVLINK, compatible con la misma arquitectura de 8 GPU y un conmutador de red de 400 GbE. Hemos resumido los puntos clave a continuación:
- Nodo de proceso TSMC 4NP
- GPU de paquete multichip
- 1 GPU 104 mil millones de transistores
- 2 GPU 208 mil millones de transistores
- 160 SM (20.480 núcleos)
- 8 paquetes HBM
- Memoria HBM3e de 192 GB
- Ancho de banda de memoria de 8 TB/s
- Interfaz de bus de memoria de 8192 bits
- 8-Hi Stack HBM3e
- Compatibilidad con PCIe 6.0
- TDP de 700 W (pico)
Ahora que Meta ha realizado pedidos para el Blackwell B200 de NVIDIA, esto marcará en última instancia la transición a los mercados de próxima generación, donde, una vez más, se espera que Team Green conserve su dominio.