{"id":1040573,"date":"2024-03-07T14:45:29","date_gmt":"2024-03-07T14:45:29","guid":{"rendered":"https:\/\/magazineoffice.com\/las-cpu-amd-ryzen-ai-y-las-gpu-radeon-7000-pueden-ejecutar-chatbots-localizados-utilizando-llm-al-igual-que-el-chat-de-nvidia-con-rtx\/"},"modified":"2024-03-07T14:45:32","modified_gmt":"2024-03-07T14:45:32","slug":"las-cpu-amd-ryzen-ai-y-las-gpu-radeon-7000-pueden-ejecutar-chatbots-localizados-utilizando-llm-al-igual-que-el-chat-de-nvidia-con-rtx","status":"publish","type":"post","link":"https:\/\/magazineoffice.com\/las-cpu-amd-ryzen-ai-y-las-gpu-radeon-7000-pueden-ejecutar-chatbots-localizados-utilizando-llm-al-igual-que-el-chat-de-nvidia-con-rtx\/","title":{"rendered":"Las CPU AMD Ryzen AI y las GPU Radeon 7000 pueden ejecutar chatbots localizados utilizando LLM al igual que el chat de NVIDIA con RTX"},"content":{"rendered":"


\n<\/p>\n

\n

Tras el lanzamiento de Chat with RTX de NVIDIA, AMD ahora ofrece a los usuarios su propio chatbot de IA localizado y basado en GPT con tecnolog\u00eda LLM que puede ejecutarse en CPU Ryzen AI y GPU Radeon 7000.<\/p>\n

NVIDIA Chat con RTX tiene un competidor: AMD presenta su propio chatbot localizado con tecnolog\u00eda LLM que puede ejecutarse en CPU Ryzen AI y GPU Radeon 7000<\/h2>\n

El mes pasado, NVIDIA lanz\u00f3 su Chatbot AI \u00abChat with RTX\u00bb, que est\u00e1 disponible en sus GPU RTX 40 y RTX 30 y se acelera con el conjunto de funciones TensorRT-LLM que ofrece resultados GenAI m\u00e1s r\u00e1pidos seg\u00fan los datos que usted pone a su disposici\u00f3n desde su PC o en otros t\u00e9rminos, un conjunto de datos localizado. Ahora AMD ofrece su propio chatbot GPT basado en LLM que puede ejecutarse en una amplia gama de hardware, como las PC Ryzen AI, que incluyen APU Ryzen 7000 y Ryzen 8000 con NPU XDNA junto con las \u00faltimas GPU Radeon 7000 que cuentan con n\u00facleos aceleradores de IA. .<\/p>\n

AMD ha publicado un blog donde proporciona una gu\u00eda de configuraci\u00f3n sobre c\u00f3mo utilizar su hardware para ejecutar su propio chatbot localizado impulsado por LLM (modelos de lenguaje grande) basados \u200b\u200ben GPT. Para las CPU AMD Ryzen AI, puede obtener la copia est\u00e1ndar de LM Studio para Windows, mientras que las GPU Radeon RX 7000 obtienen una vista previa t\u00e9cnica de ROCm. La gu\u00eda completa se comparte a continuaci\u00f3n:<\/p>\n

\n

1. Descargue la versi\u00f3n correcta de LM Studio:<\/p>\n

2. Ejecute el archivo.<\/p>\n

3. En la pesta\u00f1a de b\u00fasqueda, copie y pegue el siguiente t\u00e9rmino de b\u00fasqueda seg\u00fan lo que desee ejecutar:<\/p>\n

a. Si desea ejecutar Mistral 7b, busque: \u201cTheBloke\/OpenHermes-2.5-Mistral-7B-GGUF<\/strong>\u201dY selecci\u00f3nelo de los resultados de la izquierda. Normalmente ser\u00e1 el primer resultado. Vamos con Mistral en este ejemplo.<\/p>\n

b. Si desea ejecutar LLAMA v2 7b, busque: \u201cTheBloke\/Llama-2-7B-Chat-GGUF<\/strong>\u201dY selecci\u00f3nelo de los resultados de la izquierda. Normalmente ser\u00e1 el primer resultado.<\/p>\n

C. Tambi\u00e9n puedes experimentar con otros modelos aqu\u00ed.<\/p>\n

<\/figure>\n

4. En el panel de la derecha, despl\u00e1cese hacia abajo hasta que vea el Q4 kil\u00f3metros<\/strong> archivo modelo. Haga clic en descargar.<\/p>\n

a. Nosotros recomendamos Q4 kil\u00f3metros<\/strong> para la mayor\u00eda de los modelos en Ryzen AI. Espere a que termine de descargarse.<\/p>\n

\"\"<\/p>\n

5. Vaya a la pesta\u00f1a de chat. Seleccione el modelo en el men\u00fa desplegable central en la parte superior central y espere a que termine de cargarse.<\/p>\n

\"\"<\/p>\n

6. Si tienes un AMD<\/strong> PC Ryzen con IA<\/strong> \u00a1puedes empezar a chatear!<\/p>\n

a. Si tienes un AMD<\/strong> tarjeta grafica radeon<\/strong>por favor:<\/p>\n

i. Marque \u00abDescarga de GPU\u00bb en el panel lateral derecho.<\/p>\n

ii. Mueva el control deslizante hasta \u00abMax\u00bb.<\/p>\n

III. Aseg\u00farese de que AMD ROCm se muestre como el tipo de GPU detectado.<\/p>\n

\"\"<\/figure>\n

IV. \u00a1Empieza a chatear!<\/p>\n<\/blockquote>\n

Tener un chatbot localizado impulsado por IA puede hacer la vida y el trabajo relativamente m\u00e1s f\u00e1cil si se configura correctamente. Puede ser eficiente al hacer su trabajo y obtener resultados adecuados seg\u00fan sus consultas y la ruta de datos a la que se dirige el LLM. NVIDIA y AMD est\u00e1n acelerando el ritmo de las funciones impulsadas por IA para hardware de nivel de consumidor y esto es solo el comienzo; se esperan m\u00e1s innovaciones en el futuro a medida que el segmento de PC con IA alcance nuevas alturas.<\/p>\n

\n

\t\t\t\tComparte esta historia<\/p>\n

<\/svg> Facebook<\/p>\n

<\/svg> Gorjeo<\/p>\n<\/p><\/div>\n<\/p><\/div>\n


\n
Source link-29 <\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Tras el lanzamiento de Chat with RTX de NVIDIA, AMD ahora ofrece a los usuarios su propio chatbot de IA localizado y basado en GPT con tecnolog\u00eda LLM que puede…<\/p>\n","protected":false},"author":1,"featured_media":1040574,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21980],"tags":[6783,9721,33065,133,21393,18677,4256,12095,246,86655,28438,843,2964,15441,844,22291,27663],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/1040573"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=1040573"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/1040573\/revisions"}],"predecessor-version":[{"id":1040575,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/1040573\/revisions\/1040575"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/1040574"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=1040573"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=1040573"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=1040573"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}