La pila de software ROCm 6.0 de AMD y el código fuente completo ahora están disponibles para descargar y vienen con soporte para GPU Instinct MI300 y Radeon 7000.
La pila de software ROCm 6.0 de AMD ahora ofrece soporte para bibliotecas de IA adicionales, desbloquea el rendimiento del FP8 en PyTorch y agrega soporte para GPU Instinct MI300 y Radeon 7000
En el evento Advancing AI de la compañía, AMD reveló planes para mejorar la plataforma ROCm de la compañía a través de un marco «actualizado» y, en las etapas iniciales, se ha lanzado en Linux.
ROCm 6.0 es el intento de AMD de darle una dura competencia al CUDA de NVIDIA. La nueva pila de software no solo se actualizó para admitir las últimas GPU Instinct MI300 de AMD, sino que también recibió soporte para nuevas y potentes funciones, lo que es un paso para convertirla en una alternativa viable a la plataforma CUDA.
Comenzando con lo que trae ROCm 6.0, viene con soporte para los aceleradores de IA Instinct MI300A/MIX300X de AMD, que se mostraron una vez más en el evento Advancing AI. La pila de software ha mejorado mucho con el tiempo y los resultados de rendimiento compartidos por AMD de sus GPU Instinct se ven impulsados por las mejoras realizadas en la plataforma ROCm, especialmente con la nueva versión. Sin embargo, Phoronix revela que ROCm 6.0 actualmente no es compatible con las nuevas GPU Instinct en Red Hat Enterprise Linux 9, pero eventualmente obtendrá soporte más adelante.
Algunas de las características principales de la pila ROCm 6.0 incluyen:
- Soporte y acceso ampliados: soporte para AMD Instinct MI300A y MI300X
- Funciones clave compatibles con IA: algoritmos de atención altamente optimizados y bibliotecas de comunicaciones colectivas probadas
- Rendimiento optimizado: compatibilidad con FP8 en PyTorch y hipblasLT
- Permitiendo el éxito de los desarrolladores: marcos HPC y AI/ML preempaquetados listos para descargar en AMD Infinity Hub; herramientas optimizadas y mejoradas
- Fácil acceso a los recursos: ROCm Docs nuevos y mejorados y un nuevo hogar para todos los demás recursos para desarrolladores en AMD ROCm Developer Hub
Pasando a la parte más interesante, ROCm 6.0 ha obtenido soporte para bibliotecas adicionales, como DeepSpeed, ONNX-RT, Jax y CuPy, que brindan a los consumidores más flexibilidad en lo que respecta a la implementación de IA. Además, ROCm 6.0 ahora admitirá el rendimiento del FP8 en PyTorch e hipblasLT, lo que no solo proporcionará un rendimiento mejorado, sino que también contribuirá a las cargas de trabajo de IA con su respectiva arquitectura RDNA/CDNA.
Los funcionarios de AMD han declarado que ROCm 6.0 ha alcanzado la paridad de software con CUDA en el entrenamiento de modelos de lenguaje grandes, lo que sugiere que Team Red ha podido cerrar la brecha en lo que respecta a recursos de software centrados en IA, un área donde NVIDIA ha dominado en los últimos años. . Con soporte para ROCm 6.0 en Linux, los usuarios ahora pueden descargar el código fuente completo que está disponible públicamente aquí y también pueden encontrar la lista completa de GPU Radeon 7000 e Instinct compatibles en la siguiente lista:
