El controlador Nvidia GeForce promete un rendimiento de difusión estable duplicado

Nvidia anunció hoy una nueva actualización del controlador GeForce Game Ready que seguramente llamará la atención de cualquiera que incursione en las instalaciones locales de Stable Diffusion. La última versión 532.03 del controlador GeForce Game Ready, que se lanzará más tarde hoy, incluye aprendizajes de la cadena de herramientas Olive de Microsoft, una herramienta de optimización de modelos con reconocimiento de hardware que tiene como objetivo unir perfectamente el procesamiento de su modelo de difusión a las capacidades de sus tarjetas gráficas.

Según Microsoft, Olive tiene la capacidad de modificar el modelo base de acuerdo con las capacidades de hardware disponibles, ya sea en instalaciones locales, en la nube o en el perímetro. Olive es una forma de abstraer todas las diferentes cadenas de herramientas de aceleración de Machine Learning (ML) distribuidas por los diferentes actores del mercado. Entonces, parte de su misión es reducir la fragmentación del mercado en torno a las técnicas de aceleración de ML.

Nvidia dice que la nueva integración de Olive en GeForce permitirá mejoras de rendimiento en las operaciones de IA que aprovechan los núcleos RTX Tensor de función fija presentes en las GPU de Nvidia. Usando una versión optimizada para Olive del generador de texto a imagen Stable Diffusion (junto con la popular distribución Automatic1111), el rendimiento se mejora más del doble.

“La IA será el principal impulsor de la innovación para los clientes de Windows en los próximos años”, dijo Pavan Davuluri, vicepresidente corporativo de integración de sistemas y silicio de Windows en Microsoft. “Al trabajar en conjunto con Nvidia en las optimizaciones de hardware y software, estamos equipando a los desarrolladores con una experiencia transformadora, de alto rendimiento y fácil de implementar”.

No debería haber una razón para que AMD no pueda implementar el conjunto de herramientas Olive de Microsoft en sus propios controladores de gráficos, aunque actualmente no está claro cuánto dependen realmente estas optimizaciones del rendimiento de Tensor (recuerde que AMD no posee una solución de hardware equivalente a bordo de su familia de GPU RX 7000). Por ahora, parece que los usuarios de Nvidia en particular están preparados para un rendimiento aún mejor que el que se puede extraer de las GPU de AMD.

Curiosamente, aunque Nvidia deja en claro que los núcleos Tensor de la arquitectura RTX son los principales responsables del rendimiento de las tarjetas en la aceleración ML, las tarjetas gráficas que se enumeran para admitir la versión 532.03 incluyen tarjetas a partir de la familia GTX 700. ¿Alguna de estas tarjetas de arquitectura más antiguas que no cuentan con ningún núcleo Tensor ve una mejora similar de 2x en la aceleración de ML? De acuerdo, tal vez no sea una GTX 700, pero ¿qué hay de las piezas de las series GTX 10 y 16? Si tiene uno de esos y prueba esto, háganoslo saber en los comentarios.