Se rumorea que las GPU Blackwell GB100 de próxima generación de NVIDIA para clientes de HPC e IA estarán completamente integradas con un diseño de chiplet según Kopite7kimi.
Se rumorea que NVIDIA se sumará al tren Chiplet con GPU Blackwell de próxima generación para IA, GB100 ofrecerá cambios significativos
El último rumor dice dos cosas, la primera es que ahora se espera que NVIDIA utilice su primer diseño de chiplet para el segmento de centros de datos moderno. Entonces, solo como resumen, inicialmente se anticipó que las GPU NVIDIA Blackwell serían la primera familia en seguir la ruta de los chiplets hasta que los rumores informaron que la compañía había decidido no hacerlo y estaba destinada a utilizar un diseño monolítico más estándar. Los diseños de chiplet y monolítico tienen sus ventajas y desventajas, pero dado el costo y la eficiencia necesarios para lograr mejoras en el rendimiento hoy en día, competidores como AMD e Intel están utilizando chiplet y otras tecnologías avanzadas para empaquetar.
Hasta ahora, NVIDIA ha demostrado que la industria puede avanzar sin usar chiplet con sus GPU Hopper y Ada Lovelace, ambas sobresalientes al ofrecer el mejor rendimiento por vatio y los márgenes más altos que la compañía haya visto jamás. Pero en el futuro, eso va a cambiar y, a partir de Blackwell, es posible que veamos el primer diseño empaquetado con chipset de NVIDIA. Hasta ahora, las GPU Blackwell están programadas para su lanzamiento en 2024 para el segmento de centros de datos e inteligencia artificial.
Después de los dramas de GA100 y GH100, parece que GB100 finalmente usará MCM.
-kopite7kimi (@kopite7kimi) 18 de septiembre de 2023
Kopite7kimi pone énfasis en el centro de datos y las GPU de IA cuando habla de Blackwell. Esto muestra que es posible que NVIDIA aún no migre a chiplets para sus GPU de juegos con nombre en código «Ada-Next», pero incorpora un nivel de tecnologías de empaquetado de ventajas dentro de su centro de datos y GPU de IA para maximizar la producción de chips. Como se mencionó anteriormente, los chiplets tienen sus desventajas y, por lo general, residen en la obtención de las fábricas adecuadas para empaquetar estos chips.
CoWoS de TSMC es una de las tecnologías de empaquetado clave que está disponible para clientes de GPU como AMD y NVIDIA, pero parece que ambas compañías pueden estar luchando por obtener acceso a la tecnología punta de TSMC. La lucha normalmente se reduce a quién puede ofrecer la mayor cantidad de dinero en efectivo y el equipo verde actualmente nada en dinero de la IA. Además, hay otros componentes clave que deben obtenerse según el nivel de integración basada en chipset que NVIDIA quiera utilizar. Tanto AMD como Intel están creando algunos paquetes de chiplets avanzados, integrando varias IP en un paquete de chip singular, por lo que será interesante ver qué tan avanzado es el diseño de NVIDIA para su arquitectura de chiplets de primera generación en Blackwell.
Aunque el número de unidades (como GPC o TPC) en Blackwell no aumentará significativamente, hay cambios significativos en su estructura de unidades.
-kopite7kimi (@kopite7kimi) 18 de septiembre de 2023
La segunda parte de la historia se reduce a la estructura arquitectónica interna de las GPU Blackwell. Se informa que la cantidad de unidades dentro de las GPU Blackwell, como GPC y TPC, no ha cambiado mucho con respecto a Hopper, pero la estructura de la unidad interna podría indicar que el recuento de SM/CUDA/Cache/NVLINK/Tensor/RT ha cambiado significativamente. Anteriormente, hemos visto filtrar al menos dos GPU, que incluyen Blackwell GB100 y GB102. El segundo puede ser un centro de datos o una GPU para juegos, pero Kopite7kimi ya ha dicho que las piezas de consumo (juegos) se incluirán en la serie GB200 y no en la serie GB100.
Es muy poco probable que Jensen lo cambie.
-kopite7kimi (@kopite7kimi) 18 de septiembre de 2023
También hay rumores que NVIDIA está evaluando el nodo Samsung 3GAA (3 nm) que podría entrar en producción en masa en 2025, aunque Kopite7kimi cree que es posible que NVIDIA no cambie sus planes y se ciña a TSMC para sus GPU de próxima generación. El mismo filtrador informó anteriormente que Blackwell no utilizará un nodo de proceso de 3 nm. Dado el progreso de la IA y el centro de datos que NVIDIA ha logrado desde sus GPU Pascal y el éxito extremo con las GPU Ampere y Hopper, Blackwell marcará un avance importante en la línea de chips de NVIDIA, impulsando a la compañía hacia la próxima era de la IA y la informática.