{"id":845135,"date":"2023-10-18T06:44:08","date_gmt":"2023-10-18T06:44:08","guid":{"rendered":"https:\/\/magazineoffice.com\/nvidia-tensorrt-acelera-la-difusion-estable-genai-para-todas-las-gpu-rtx-rtx-4090-hasta-7-veces-mas-rapido-que-apple-m2-ultra\/"},"modified":"2023-10-18T06:44:30","modified_gmt":"2023-10-18T06:44:30","slug":"nvidia-tensorrt-acelera-la-difusion-estable-genai-para-todas-las-gpu-rtx-rtx-4090-hasta-7-veces-mas-rapido-que-apple-m2-ultra","status":"publish","type":"post","link":"https:\/\/magazineoffice.com\/nvidia-tensorrt-acelera-la-difusion-estable-genai-para-todas-las-gpu-rtx-rtx-4090-hasta-7-veces-mas-rapido-que-apple-m2-ultra\/","title":{"rendered":"NVIDIA TensorRT acelera la difusi\u00f3n estable GenAI para todas las GPU RTX, RTX 4090 hasta 7 veces m\u00e1s r\u00e1pido que Apple M2 Ultra"},"content":{"rendered":"


\n<\/p>\n

\n

Las actualizaciones de TensorRT de NVIDIA para GPU RTX tambi\u00e9n permiten grandes mejoras en el rendimiento de las cargas de trabajo GenAI, como Stable Diffusion.<\/p>\n

La difusi\u00f3n estable y GenAI se impulsan gracias a la compatibilidad con TensorRT en las GPU Gaming y Pro RTX de NVIDIA<\/h2>\n

Ya hemos detallado c\u00f3mo TensorRT-LLM est\u00e1 brindando capacidades de IA m\u00e1s r\u00e1pidas a Windows en hardware RTX y GenAI es otra \u00e1rea donde los consumidores que poseen una GPU RTX podr\u00e1n ver un beneficio directo.<\/p>\n

<\/figure>\n

No es ning\u00fan secreto que las GPU de NVIDIA se encuentran entre las soluciones m\u00e1s populares para cargas de trabajo de difusi\u00f3n estable e IA generativa. Hemos visto a NVIDIA estar por delante de casi todos en este campo, pero los lanzamientos de CPU m\u00e1s recientes y futuros (de AMD e Intel) han comenzado a incluir una unidad NPU dedicada que puede descargar las tareas de IA de la CPU\/GPU y completar el trabajo en un modo eficiente y de muy bajo consumo para la gran mayor\u00eda de usuarios.<\/p>\n

\"NVIDIA<\/figure>\n

NVIDIA afirma que es fant\u00e1stico ver el impulso para acelerar la IA al infundir IA en las CPU y que se usar\u00e1n principalmente para tareas livianas de IA que se ejecutan a baja potencia y la GPU ser\u00e1 para casos de uso m\u00e1s exigentes. Tanto la NPU como las GPU son recursos fuera de l\u00ednea y disponibles localmente, lo que proporciona baja latencia y caracter\u00edsticas de localidad\/privacidad de datos, mientras que los centros de datos en la nube apuntan a cargas de trabajo pesadas de IA para modelos muy grandes y uso bajo demanda. Se dice que las GPU RTX de NVIDIA ofrecen entre 20 y 100 veces m\u00e1s rendimiento que estas NPU.<\/p>\n

\n

La aceleraci\u00f3n de TensorRT ahora est\u00e1 disponible para Stable Diffusion en la popular interfaz de usuario web de la distribuci\u00f3n Automatic1111. Acelera el modelo de difusi\u00f3n de IA generativa hasta 2 veces m\u00e1s que la implementaci\u00f3n m\u00e1s r\u00e1pida anterior.<\/p>\n

a trav\u00e9s de NVIDIA<\/p>\n<\/blockquote>\n

En una demostraci\u00f3n de rendimiento de Difusi\u00f3n estable, NVIDIA muestra la GeForce RTX 4090 ejecutando WebUI desde Automatic 1111 y generando 27 im\u00e1genes por minuto usando la implementaci\u00f3n de PyTorc xFormers, pero ejecut\u00e1ndola con TensorRT duplica el rendimiento a 52 im\u00e1genes por minuto.<\/p>\n

\"\"<\/figure>\n

NVIDIA tambi\u00e9n compara el rendimiento con el M2 Ultra de Apple (variante de 72 n\u00facleos), que cuesta un precio base de 5000 d\u00f3lares estadounidenses. Este sistema solo genera 7 im\u00e1genes por minuto utilizando el modelo CoreML. Mientras tanto, puedes construir un sistema de muy alta gama con dos GPU GeForce RTX 4090 con el mismo presupuesto.<\/p>\n

\n
<\/div>\n<\/div>\n

La compa\u00f1\u00eda ha anunciado que TensorRT ahora est\u00e1 disponible en WebUI (Automatic 1111) y se puede descargar desde GitHub.com\/NVIDIA.<\/p>\n

\n

\t\t\t\tComparte esta historia<\/p>\n

<\/svg> Facebook<\/p>\n

<\/svg> Gorjeo<\/p>\n<\/p><\/div>\n<\/p><\/div>\n


\n
Source link-29 <\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Las actualizaciones de TensorRT de NVIDIA para GPU RTX tambi\u00e9n permiten grandes mejoras en el rendimiento de las cargas de trabajo GenAI, como Stable Diffusion. La difusi\u00f3n estable y GenAI…<\/p>\n","protected":false},"author":1,"featured_media":845136,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21980],"tags":[5023,2450,45804,26502,83510,4256,882,246,84,843,107,1879,844,106033,1464,4579,1585],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/845135"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=845135"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/845135\/revisions"}],"predecessor-version":[{"id":845137,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/845135\/revisions\/845137"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/845136"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=845135"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=845135"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=845135"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}