Jim Keller tiene un interesante propuesta sobre las GPU Blackwell de NVIDIAalegando que la empresa debería haber utilizado un método de interconexión alternativo y rentable.
Jim Keller cree que NVIDIA podría haber ahorrado miles de millones en costos de I+D en la arquitectura de GPU Blackwell
Bueno, el CEO de Tenstorrent, Jim Keller, es conocido por algunas de sus interpretaciones *divertidas* de productos tecnológicos. Recientemente, también llamó pantano al CUDA de NVIDIA, así que puedes imaginar cómo le va en las redes sociales. Jim ahora ha criticado el presupuesto de I+D del Team Green para sus GPU Blackwell, afirmando que la empresa habría ahorrado miles de millones simplemente cambiando el método de interconexión. Puedes verlo en su tweet en X a continuación:
-Jim Keller (@jimkxa) 11 de abril de 2024
En términos de interconexión Blackwell, NVIDIA ha utilizado su tecnología de interconexión «NVLINK» de quinta generación. Si bien NVLINK tiene ventajas significativas sobre otros métodos en términos de ancho de banda, latencia y escalabilidad, se queda atrás debido a su naturaleza «patentada», que no puede adaptarse al hardware de ningún otro fabricante.
Además, se dice que la utilización de NVLINK es una medida costosa en la dinámica de la industria, razón por la cual Jim Keller la ha criticado, especialmente porque promueve una ideología de «código abierto» para los mercados, pero NVLINK es exactamente lo contrario en este caso. .
Ahora, la alternativa, en este caso, es la interconexión Ethernet, que es una opción más rentable y destruye el estado de propiedad de NVLINK, proporcionando en última instancia un ecosistema mucho mejor, pero en términos de cifras de rendimiento, Ethernet necesita revisarse. para ponerse al día con NVLINK de Team Green combinado con InfiniBand, pero con la interconexión UE (Ultra Ethernet) en el camino, las cosas podrían cambiar aquí, impulsando la adopción del estándar, ya que UE garantiza un rendimiento efectivo de IA y HPC. Sin embargo, todavía se encuentra en fase de desarrollo.
Jim Keller cree que los enormes costos de I+D de 10 mil millones de dólares de NVIDIA en Blackwell son demasiados, y la compañía podría haberlos reducido significativamente simplemente cambiando la interconexión. Jim es conocido por trollear a las empresas, especialmente a NVIDIA, varias veces, pero su afirmación parece viable hasta cierto punto, ya que los costos de Blackwell son simplemente escandalosos.
Pero a pesar de lo que pueda decir sobre los costos de la GPU Blackwell AI de NVIDIA, no hay duda de que la demanda de estos chips está por las nubes e incluso compañías como Intel y AMD están teniendo dificultades para romper el dominio de NVIDIA, que solo se ha acelerado con el anuncio. de Blackwell.