{"id":1024091,"date":"2024-02-24T23:02:30","date_gmt":"2024-02-24T23:02:30","guid":{"rendered":"https:\/\/magazineoffice.com\/las-gpu-intel-arc-ahora-son-compatibles-con-la-extension-intel-para-pytorch-lo-que-impulsa-las-capacidades-de-inteligencia-artificial-aprendizaje-profundo-y-llm\/"},"modified":"2024-02-24T23:02:33","modified_gmt":"2024-02-24T23:02:33","slug":"las-gpu-intel-arc-ahora-son-compatibles-con-la-extension-intel-para-pytorch-lo-que-impulsa-las-capacidades-de-inteligencia-artificial-aprendizaje-profundo-y-llm","status":"publish","type":"post","link":"https:\/\/magazineoffice.com\/las-gpu-intel-arc-ahora-son-compatibles-con-la-extension-intel-para-pytorch-lo-que-impulsa-las-capacidades-de-inteligencia-artificial-aprendizaje-profundo-y-llm\/","title":{"rendered":"Las GPU Intel Arc ahora son compatibles con la extensi\u00f3n Intel para PyTorch, lo que impulsa las capacidades de inteligencia artificial, aprendizaje profundo y LLM"},"content":{"rendered":"
\n<\/p>\n
\n
Las GPU Arc A-Series ahora son compatibles con Intel Extension para PyTorch (IPEX), que ofrece capacidades de IA m\u00e1s r\u00e1pidas en aprendizaje profundo y LLM.<\/p>\n
La extensi\u00f3n Intel para PyTorch ahora aprovecha al m\u00e1ximo el hardware XMX AI integrado en las GPU Arc A-Series<\/h2>\n
Las GPU Intel Arc A-Series basadas en la arquitectura Alchemist tienen un gran potencial en el hardware que se materializa d\u00eda tras d\u00eda. La divisi\u00f3n de software ha hecho un gran trabajo optimizando el rendimiento del juego de estas GPU y ahora la atenci\u00f3n se centra en el mercado emergente de IA, donde las unidades XMX incluidas en estos chips se utilizar\u00e1n por completo.<\/p>\n
En una actualizaci\u00f3n, Intel confirm\u00f3 que IPEX (Intel Extension para PyTorch) ahora ofrece soporte para GPU Arc A-Series en plataformas Windows, Linux y WSL2. Con este soporte recientemente agregado, las GPU de la serie A de Intel no solo impulsar\u00edan la aceleraci\u00f3n de los modelos de aprendizaje profundo, como los LLM, sino que tambi\u00e9n brindar\u00edan nuevas optimizaciones para el hardware de Intel, lo que permitir\u00eda un rendimiento m\u00e1s r\u00e1pido y brindar\u00edan a los usuarios la capacidad de ejecutar modelos PyTorch en la l\u00ednea de GPU Alchemist. .<\/p>\n\n<\/figure>\n
Para aquellos de ustedes que tienen una GPU Intel Arc A-Series y desean aprovechar su motor XMX AI dentro de PyTorch, la compa\u00f1\u00eda ha publicado un blog completo sobre c\u00f3mo ejecutar la interfaz Llama 2 en Windows y WSL2 aqu\u00ed. Seg\u00fan el equipo de software de IA de Intel:<\/p>\n
\n
<\/div>\n<\/div>\n
\n
Las GPU son muy adecuadas para cargas de trabajo de modelos de lenguaje grandes (LLM), ya que las GPU destacan por su paralelismo de datos masivo y su gran ancho de banda de memoria. Los gr\u00e1ficos Arc A-Series, incluidos los gr\u00e1ficos Arc A770, son gr\u00e1ficos de alto rendimiento, con hasta 512 motores Xe Matrix Extensions (XMX), que brindan capacidad para la ejecuci\u00f3n acelerada de modelos de aprendizaje profundo, incluidos LLM.<\/li>\n
IPEX ampl\u00eda PyTorch con las \u00faltimas optimizaciones de rendimiento para hardware Intel, aprovechando los motores XMX en las GPU discretas de Intel.<\/li>\n
La extensi\u00f3n IPEX para PyTorch habilita el dispositivo PyTorch XPU, lo que le permite mover f\u00e1cilmente el modelo de PyTorch y los datos de entrada al dispositivo para ejecutarlos en una GPU discreta Intel con aceleraci\u00f3n de GPU.<\/li>\n
La \u00faltima versi\u00f3n de IPEX (v2.1.10+xpu) admite oficialmente Arc A-Series Graphics en WSL2, Windows nativo y Linux nativo.<\/li>\n
Se demostr\u00f3 la ejecuci\u00f3n de la inferencia de Llama 2 7B y Llama 2-Chat 7B en Arc A770 Graphics en Windows y WSL2 a trav\u00e9s de Ipex.<\/li>\n
Para ejecutar Llama 2, o cualquier otro modelo de PyTorch, en las GPU Arc A-Series, simplemente agregue algunas l\u00edneas de c\u00f3digo adicionales a importar<\/strong> intel_extension_for_pytorch y .to(\u00abxpu\u00bb)<\/span> para mover el modelo y los datos al dispositivo para ejecutarlos en la GPU Arc A-Series.<\/li>\n<\/ul>\n
Recientemente publicamos un art\u00edculo citando al ex jefe de GPU de Intel, Raja Koduri, quien mencion\u00f3 c\u00f3mo las GPU de PC para clientes y juegos desempe\u00f1aron un papel crucial para permitir el \u00e9xito de la IA. La ampliaci\u00f3n del soporte de Intel a sus GPU Arc A-Series es una gran cosa para el segmento de mercado donde NVIDIA y AMD han liderado la carga al ofrecer soporte r\u00e1pido de IA en hardware centrado en el consumidor.<\/p>\n