Los aceleradores Instinct MI300X lanzados recientemente por AMD han arrasado en el mercado de la IA, ya que están causando «dolores de cabeza» a los competidores debido a su atractivo en la industria.
La GPU con IA Instinct MI300X de AMD elimina a la contraparte de NVIDIA en rendimiento y potencialmente también en adopción en el mercado
La GPU con IA Instinct MI300X de AMD se lanzó hace casi un mes y, en términos de ganancia de rendimiento, destruyó a sus competidores en una extensa evaluación comparativa realizada por el propio Team Red. El acelerador Instinct MI300X ha sido diseñado únicamente en la arquitectura CDNA 3 y están sucediendo muchas cosas. Albergará una combinación de IP de 5 nm y 6 nm, todas combinadas para ofrecer hasta 153 mil millones de transistores (MI300X). La memoria es otra área donde se ha observado una gran mejora: el MI300X cuenta con un 50 % más de capacidad HBM3 que su predecesor, el MI250X (128 GB). Así es como se compara con el H100 de NVIDIA:
- Capacidad de memoria 2,4 veces mayor
- Ancho de banda de memoria 1,6 veces mayor
- 1,3X TFLOPS del FP8
- 1,3X TFLOPS FP16
- Hasta un 20 % más rápido que el H100 (Llama 2 70B) en una comparación 1 contra 1
- Hasta un 20 % más rápido que el H100 (FlashAttention 2) en comparación 1 contra 1
- Hasta un 40% más rápido que H100 (Llama 2 70B) en servidor 8v8
- Hasta un 60 % más rápido que el H100 (Bloom 176B) en un servidor 8v8
> rocm-smi
como pan recién horneado, 8x MI300X está en línea
Si está desarrollando LLM abiertos y está bloqueado en computación, lmk. Todos deberían tener acceso a esta tecnología mágica llamada LLM.
es decir, el siguiente lote de @LaminiAI Los módulos de LLM están aquí. pic.twitter.com/NjRAYjxehp
—Sharon Zhou (@realSharonZhou) 19 de enero de 2024
Taiwan Economic Daily informa que la GPU de IA Instinct MI300X de AMD se ha enviado a los clientes, junto con LaminiAI, una startup de IA respaldada por el soporte de AMD. verificando la integracion del nuevo acelerador en su cartera.
Fuentes dentro de la cadena de suministro citan que la nueva GPU Instinct de AMD ha logrado ganar protagonismo en los mercados, arrebatando el interés captado por los competidores. Esto se debe a que no sólo las ganancias de rendimiento con el MI300X son enormes, sino que AMD ha cronometrado su lanzamiento perfectamente, ya que NVIDIA actualmente está estancada con el «peso» de los pedidos pendientes, lo que ha obstaculizado su crecimiento a la hora de ganar nuevos clientes.
Se espera que los mercados de IA crezcan rápidamente en los próximos años, y la directora ejecutiva de AMD, Lisa Su, los categoriza como la próxima gran novedad en la industria tecnológica. AMD cree que el segmento de IA tiene el potencial de crecer hasta la friolera de 400 mil millones de dólares para 2027 y, de hecho, la empresa se ha posicionado para capitalizar este enorme crecimiento. De manera similar, el director ejecutivo de NVIDIA, Jensen Huang, calificó 2023 como el «primer año de la IA», afirmando que todavía tenemos mucho que ver en el futuro, ya que la informática de IA se está expandiendo a nuevos dominios, como la industria móvil y la automotriz.
El futuro es realmente interesante, no sólo para las empresas involucradas en la carrera de la IA, sino también con el crecimiento de los mercados de clientes y consumidores. Sin embargo, parece que con el tiempo la competencia será más estricta que nunca y 2024 no le dará a NVIDIA el «pase fácil» a la mina de oro de la IA, ya que esta vez el Equipo Rojo ha vuelto más fuerte.
Fuente de noticias: Diario Económico de Taiwán