AMD ha compartido algunos datos interesantes sobre las capacidades de su hardware RDNA 3 GPU y XDNA NPU en cargas de trabajo de IA centradas en el consumidor.<\/p>\n
Las GPU RDNA 3 y la NPU XDNA de AMD brindan un s\u00f3lido conjunto de capacidades de IA centradas en el consumidor en plataformas de PC<\/h2>\n
No hay duda de que AMD se ha adelantado al ofrecer capacidades de IA a una audiencia de PC m\u00e1s amplia mediante la implementaci\u00f3n de XDNA NPU en sus APU Ryzen. La primera NPU se lanz\u00f3 en 2023 con las APU Phoenix \u00abRyzen 7040\u00bb y recientemente se actualiz\u00f3 con la serie Hawk Point \u00abRyzen 8040\u00bb. Adem\u00e1s de la NPU, la arquitectura de GPU RDNA 3 de AMD tambi\u00e9n ha incorporado una gran suma de n\u00facleos de IA dedicados que pueden manejar estas cargas de trabajo y la compa\u00f1\u00eda est\u00e1 tratando de solidificar su impulso con su paquete de software ROCm.<\/p>\n Durante el \u00faltimo seminario web \u00abConozca a los expertos\u00bb, AMD analiz\u00f3 c\u00f3mo su suite Radeon Graphics, como la serie RDNA 3, ofrece a los jugadores, creadores y desarrolladores una variedad de cargas de trabajo optimizadas que incluyen:<\/p>\n Comenzando con la arquitectura de gr\u00e1ficos AMD RDNA 3, las GPU m\u00e1s recientes incluidas en las GPU Radeon RX 7000 y las CPU Ryzen 7000\/8000 brindan mejoras en el rendimiento de la IA de generaci\u00f3n tras generaci\u00f3n.<\/p>\n Estos productos GPU ofrecen hasta 192 aceleradores de IA que est\u00e1n optimizados para cargas de trabajo FP16, est\u00e1n optimizados en m\u00faltiples marcos de ML como Microsoft DirectML, Nod.AI Shark y ROCm, y cuentan con grandes grupos de VRAM dedicada que es esencial para manejar grandes conjuntos de datos ( hasta 48 GB) y tambi\u00e9n cuentan con un ancho de banda m\u00e1s r\u00e1pido impulsado por la tecnolog\u00eda Infinity Cache.<\/p>\n Seg\u00fan AMD, la mayor\u00eda de los casos de uso de IA en la plataforma de PC incluyen modelos LLM y Diffusion que dependen principalmente de las capacidades de memoria y computaci\u00f3n FP16 del hardware en el que se ejecutan. Ciertos modelos, como SDXL (Diffusion), est\u00e1n vinculados a Compute y requieren entre 4 y 16 GB de memoria, mientras que Llama2-13B y Mistral-8x 7B est\u00e1n vinculados a la memoria y pueden usar hasta 23 GB de memoria.<\/p>\n Como se mencion\u00f3 anteriormente, AMD tiene una amplia gama de hardware que cuenta con aceleraci\u00f3n de IA dedicada. Incluso la Radeon RX 7600 XT de la compa\u00f1\u00eda, una tarjeta gr\u00e1fica de $329 d\u00f3lares, tiene 16 GB de VRAM y, en t\u00e9rminos de rendimiento, ofrece un aumento de 3,6 veces sobre el Ryzen 7 8700G en LM Studio, mientras que el RX 7900 XT es hasta 8 veces m\u00e1s r\u00e1pido que el 8700G.<\/p>\n Rendimiento de LM Studio (cuanto m\u00e1s alto, mejor):<\/p>\n AMUSE Difusi\u00f3n (Cuanto m\u00e1s bajo, mejor):<\/p>\n AMD tambi\u00e9n hace una peque\u00f1a comparaci\u00f3n con la GeForce RTX de NVIDIA, que el equipo verde llama la plataforma \u00abPremium AI PC\u00bb. Ambas l\u00edneas ofrecen soporte similar, pero AMD muestra c\u00f3mo sus GPU de 16 GB tienen un precio m\u00e1s bajo de $329 d\u00f3lares estadounidenses (7600 XT), mientras que la GPU de 16 GB m\u00e1s b\u00e1sica de NVIDIA comienza en alrededor de $500 d\u00f3lares estadounidenses (4060 TI 16 GB). La compa\u00f1\u00eda tambi\u00e9n tiene una pila de alta gama que escala hasta 48 GB de memoria. AMD tambi\u00e9n ha mostrado anteriormente un s\u00f3lido rendimiento frente al Core Ultra de Intel en IA a un mejor valor.<\/p>\n En el futuro, AMD habla sobre c\u00f3mo ha progresado ROCm 6.0 y c\u00f3mo la pila de c\u00f3digo abierto ha recibido soporte para hardware de nivel de consumidor como Radeon RX 7900 XTX, 7900 XT, 7900 GRE, PRO W7900 y PRO W7800. ROCm 6.0 es compatible con los modelos y algoritmos PyTorch y ONNX Runtime ML en el sistema operativo Ubuntu 22.03.3 (Linux) y mejora la interoperabilidad agregando INT8 para modelos m\u00e1s complejos.<\/p>\n La compa\u00f1\u00eda tambi\u00e9n est\u00e1 tratando de hacer que ROCm sea a\u00fan m\u00e1s de c\u00f3digo abierto ofreciendo a los desarrolladores una variedad de pilas de software y documentaci\u00f3n de hardware.<\/p>\n AMD y su suite ROCm compiten contra la pila dominante NVIDIA CUDA y TensorRT, mientras que Intel tambi\u00e9n est\u00e1 ganando terreno con su propia pila OneAPI AI. Estas son las tres fuerzas a tener en cuenta cuando se trata de cargas de trabajo de IA en la plataforma de PC, por lo que se esperan muchas innovaciones y optimizaciones para el hardware existente y de pr\u00f3xima generaci\u00f3n en el futuro.<\/p>\n\n
![\"AMD](\"https:\/\/cdn.wccftech.com\/wp-content\/uploads\/2024\/05\/AMD-Radeon-GPU-Ryzen-XDNA-NPU-AI-PC-Workloads-_6.png\")
<\/figure>\n![\"AMD](\"https:\/\/cdn.wccftech.com\/wp-content\/uploads\/2024\/05\/AMD-Radeon-GPU-Ryzen-XDNA-NPU-AI-PC-Workloads-_7.png\")
<\/figure>\n![\"AMD](\"https:\/\/cdn.wccftech.com\/wp-content\/uploads\/2024\/05\/AMD-Radeon-GPU-Ryzen-XDNA-NPU-AI-PC-Workloads-_8.png\")
<\/figure>\n![\"amd-radeon-gpu-ryzen-xdna-npu-ai-pc-workloads-_9\"\/](\"https:\/\/cdn.wccftech.com\/wp-content\/uploads\/2024\/05\/AMD-Radeon-GPU-Ryzen-XDNA-NPU-AI-PC-Workloads-_9-564x317.png\")
<\/div>\n![\"amd-radeon-gpu-ryzen-xdna-npu-ai-pc-workloads-_10\"\/](\"https:\/\/cdn.wccftech.com\/wp-content\/uploads\/2024\/05\/AMD-Radeon-GPU-Ryzen-XDNA-NPU-AI-PC-Workloads-_10-564x317.png\")
<\/div>\n<\/div>\n<\/div>\n<\/figure>\n\n
\n
![\"\"](\"https:\/\/cdn.wccftech.com\/wp-content\/uploads\/2024\/05\/AMD-Radeon-GPU-Ryzen-XDNA-NPU-AI-PC-Workloads-_11.png\")
<\/figure>\n