Una encuesta realizada recientemente ha revelado que una gran parte de los profesionales de la inteligencia artificial están buscando cambiar de las GPU NVIDIA a las GPU AMD Instinct MI300X.
El Instinct MI300X de AMD puede ser la puerta de entrada de la empresa a la actual «fiebre del oro» de la IA, ya que atrae un gran interés
Jeff Tatarchuk, que trabaja en onda tensor, encuestó recientemente a 82 ingenieros y profesionales de IA, afirmando que alrededor del 50% de ellos expresaron su confianza en utilizar la GPU AMD Instinct MI300X, considerando que ofrece una mejor relación precio-rendimiento, además de tener una amplia disponibilidad en comparación con sus homólogos como NVIDIA. H100. Aparte de eso, Jeff también dice que TensorWave empleará los aceleradores de IA MI300X, lo cual es otra noticia prometedora para Team Red, considerando que su línea Instinct, en general, no ha visto el nivel de adopción en comparación con otros como NVIDIA.
En una encuesta realizada recientemente entre 82 ingenieros y profesionales de IA, se indicó que el 50% de los encuestados están considerando activamente usar la GPU AMD Instinct MI300X.
Las tres razones principales para considerar el AMD MI300X son disponibilidad, costo y rendimiento, en ese orden.
Nosotros… pic.twitter.com/ZckHBj6b20
—Jeff Tatarchuk (@jtatarchuk) 8 de marzo de 2024
Para un resumen rápido de la GPU MI300X Instinct AI, está diseñada únicamente en la arquitectura CDNA 3 y están sucediendo muchas cosas. Alberga una combinación de IP de 5 nm y 6 nm, que se combinan para ofrecer hasta 153 mil millones de transistores (MI300X). La memoria es otra área donde se ha observado una gran mejora: el MI300X cuenta con un 50 % más de capacidad HBM3 que su predecesor, el MI250X (128 GB). Así es como se compara con el H100 de NVIDIA:
- Capacidad de memoria 2,4 veces mayor
- Ancho de banda de memoria 1,6 veces mayor
- 1,3X TFLOPS del FP8
- 1,3X TFLOPS FP16
- Hasta un 20 % más rápido que el H100 (Llama 2 70B) en una comparación 1 contra 1
- Hasta un 20 % más rápido que el H100 (FlashAttention 2) en comparación 1 contra 1
- Hasta un 40% más rápido que H100 (Llama 2 70B) en servidor 8v8
- Hasta un 60 % más rápido que el H100 (Bloom 176B) en un servidor 8v8
Recientemente informamos cómo el acelerador insignia Instinct AI de AMD ha estado causando «dolores de cabeza» a los competidores del mercado. Esto se debe no sólo a que las ganancias de rendimiento con el MI300X son enormes, sino que AMD ha cronometrado su lanzamiento perfectamente, ya que NVIDIA actualmente está estancada con el «peso» de los pedidos pendientes, lo que ha obstaculizado su crecimiento en la obtención de nuevos clientes. Si bien el Equipo Rojo no tuvo el comienzo que quería, parece que el próximo período podría resultar fructífero para la empresa, potencialmente enfrentando a los competidores del mercado.
Fuente de noticias: Jeff Tatarchuk