AMD se está preparando para lanzar su pila de software ROCm 6.1, esta vez con soporte mejorado y amplios cambios de optimización.
La pila de software ROCm 6.1 de AMD puede superar a NVIDIA CUDA si el desarrollo continúa en su trayectoria actual
Team Red ha estado intensificando recientemente los desarrollos de ROCm, ya que en diciembre de 2023 vimos el debut de ROCm 6.0, que venía con soporte para los aceleradores de IA Instinct MI300A/MIX300X de AMD junto con varios cambios para mejorar el estado de la pila. Ahora, esta vez, el nuevo ROCm 6.1 también tiene una naturaleza similar. Aún así, en lugar de compatibilidad del producto, la última actualización viene con una ola de nuevas adiciones y correcciones para mejorar las capacidades informáticas de las ofertas de IA de AMD.
Phoronix informa que AMD ha estado lanzando actualizaciones continuas dentro de la pila de software ROCm, lo que sugiere que la nueva iteración está cerca de su lanzamiento. Team Red ha agregado nuevas funciones dentro de su biblioteca de aprendizaje profundo de código abierto MIOpen, que ahora incluye un modelo de predicción de parámetros basado en IA y varias correcciones. Además, el motor de inferencia gráfica de AMD, MIGraphX, ha sido testigo de la inclusión de soporte para FP8 y soporte extendido para varios modelos LLM como Llama-2 y Stable Diffusion 2.1.
Otro desarrollo interesante son los cambios realizados en la API HIP de AMD, que está dirigida a la portabilidad del código y la programación en sistemas informáticos heterogéneos. Ahora viene con un nuevo repositorio «hipother» que tiene como objetivo proporcionar la implementación de back-end de la API para plataformas distintas a AMD. Recientemente vimos una ocasión de portabilidad de código, donde las bibliotecas CUDA se aprovecharon en la plataforma ROCm a través de ZLUDA. Si bien la programación heterogénea es algo en lo que no se ha centrado la atención últimamente, podría cambiar en el futuro.
Los funcionarios de AMD han declarado que ROCm ha alcanzado la paridad de software con CUDA en el entrenamiento de modelos de lenguaje grandes, y las actualizaciones continuas podrían llevar a la pila a una posición en la que compita cara a cara con competidores en la industria.
Fuente de noticias: Phoronix