«Fuimos los primeros en tener la NPU y luego somos los primeros en tener nuestra segunda iteración ya en funcionamiento».
Las PC con IA han recibido mucha atención últimamente, con Microsoft define específicamente las PC con IA como computadoras con capacidad de IA con una clave Copilot y un sistema que utiliza una NPU (Unidad de procesamiento neuronal), así como una CPU y GPU. AMD fue la primera empresa de chips en producir NPU, pero ahora Intel tiene su propia serie de procesadores Core Ultra con NPU que han permitido que varias PC con IA más ingresen al mercado (obtenga más información en nuestro guía de la unidad nuclear).
Recientemente, AMD compartió puntos de referencia conmigo, que muestran que AMD Ryzen Los procesadores de IA funcionan más rápido y más eficientemente que los procesadores de IA de Intel. Después de ver esta información, me senté con el gerente senior de marketing técnico de procesadores AMD, Donny Woligroski, para analizar cómo AMD planea mantener una ventaja competitiva frente a Intel. También hablamos sobre las PC con IA, los procesadores Ryzen con IA y lo que AMD ve en su futuro.
Esta entrevista ha sido condensada y editada para mayor claridad.
Antes de hablar con Woligroski, AMD me envió diapositivas de presentación y una sesión informativa grabada que mostraba puntos de referencia en los que el AMD Ryzen 7 7840U (15W) había superado claramente al Intel Core Ultra 7 155H (28W). Específicamente, algunos puntos de referencia y demostraciones mostraron que el procesador de AMD fue capaz de responder a las indicaciones de texto de LLM significativamente más rápido que el procesador de Intel dentro de Mistral AI (consulte el gráfico de tiempo para el primer token arriba). Resultados impresionantes, por cierto.
Hace poco asistí a una Cumbre de IA de Intel en Taipei, donde miles de desarrolladores aprendieron más sobre los nuevos procesadores Intel Core Ultra con aceleración de IA. Esto me hizo pensar en cómo, a pesar de que AMD tiene un hardware de IA tan impresionante, no es ningún secreto que Intel tiene mayor influencia en el mercado de procesadores que AMD. Le mencioné esto a Woligroski y le pregunté cómo AMD pretende seguir siendo competitivo en el ámbito de los procesadores de IA ahora que Intel se ha unido a la refriega.
«Quiero decir, para ser honesto, nuestros competidores probablemente tengan un gatito mucho más grande cuando se trata de este tipo de cosas», me dijo. «Pero el punto fuerte de AMD siempre ha sido… simplemente fabricar buenos productos y [buyers] tarde o temprano llegará cuando se corra la voz. Esto realmente no es diferente. Simplemente estamos haciendo lo mejor que podemos, fabricando el mejor hardware que podemos y tratando de que la gente conozca nuestro valor».
Un poco más adelante en nuestra discusión, volvimos a abordar el tema de mantenernos competitivos en el ámbito de los procesadores de IA. «Fuimos los primeros en la NPU», continuó. «Y luego somos los primeros en tener nuestra segunda iteración ya en funcionamiento. Así que tuvimos 10 TOPS o 10 billones de operaciones de Tera por segundo en la primera de la serie 7000. En el serie 8000tenemos 16 [TOPS]. Entonces ya es un 60% más rápido. Y lo que revelamos en nuestro evento de IA de diciembre es que ‘oye, la próxima generación tendrá tres veces más potencia'».
Continuó explicando que «AMD es un jugador muy agresivo y bastante innovador» gracias a su gente inteligente «cuyo objetivo es asegurarse de que [AMD is] a la vanguardia». Siendo este el caso, con frecuencia se mantienen discusiones en AMD sobre la mejor manera de optimizar la GPU, CPU y NPU para un mejor rendimiento general para que la compañía pueda continuar produciendo procesadores de IA competitivos y útiles.
Nuestra discusión nos llevó a hablar sobre los beneficios de usar PC con IA. cuando le pregunté ¿Qué casos de uso cree que le interesarían más al consumidor medio una computadora con NPU (PC AI)? Woligroski respondió que la capacidad de realizar tareas de IA localmente en una PC con IA era muy importante y enumeró cuatro razones clave: mejor actuaciónmejor Seguridad y Privacidad, la capacidad de utilizar software de código abierto en lugar de servicios de IA por suscripción, y tener un Unidad Nuclear Nuclear que está creado específicamente para ser un motor de IA eficiente.
«Así que esos son [reasons]… Le avisaba a la gente y les decía: ‘Oye, es por eso que quieres este hardware localmente’. Y eso no quiere decir que no creamos que la IA del servidor sea importante. Absolutamente lo es. Y habrá cosas que serán más apropiadas para ejecutarse en servidores. Y si no eres un usuario comercial, es posible que estés más abierto a eso, pero realmente está evolucionando».
Terminamos hablando de cómo las PC con IA nos permiten usar LLM localmente en una computadora portátil mientras estamos en movimiento. «Sí.» él dijo. «Es una lección de humildad ejecutar un LLM localmente y decir: ‘Esta es mi computadora portátil. Mi computadora portátil es así de inteligente. Puedo decirle cosas y entiende lo que digo y sabe todas estas cosas. Es muy extraño. ‘ Al igual que LLaMA, creo que el modelo de 7 mil millones de parámetros encaja, quiero decir 4 gigas de RAM. Eso es una locura. Es tan pequeño».
«… También es un recurso nuevo. Si lo piensas de esa manera, ¿verdad? Hemos tenido CPU y GPU durante años. Y ahora puedes hacer un montón de cosas con este recurso y no ralentiza tus otras cosas. que de otra manera se habría confiado para eso. Y no es que tengamos una CPU más lenta este año porque pusimos una NPU. Y no es que tengamos gráficos más lentos. Todo lo contrario, ya saben, la marea creciente Golpea a todos los barcos en ese nivel.»
Woligroski también me recordó que Si bien la NPU es importante en las PC con IA, la CPU y la GPU también son factores clave. Lo que es más importante es tener un sistema que sepa cuándo usar mejor la NPU, la CPU y la GPU. para diversas tareas.
Dijo: «En un mundo perfecto, y creo que en el futuro esto estará ahí, el sistema operativo será lo suficientemente inteligente como para manejar todas esas cosas… Creo que el sistema operativo es una gran parte del mundo». esto, y es genial tener un gran socio como microsoft ¿Quién está realmente centrado en conseguir esa experiencia? Copiloto Pro «Es probablemente una de las mejores cosas con las que he jugado en mi carrera y eso es decir algo».
«…La IA no es sólo un problema de NPU», continúa. «Creo que la forma en que AMD lo define, y la forma en que Microsoft también lo definirá, es un procesador de IA en la PC con IA de próxima generación. Necesitará una NPU, sí, pero también seguirá necesitando aceleración de IA en el CPU. Hay [sic] Hay muchas cosas que hace la CPU para mejorar también tu experiencia. Ahora también hay mucha aceleración en la GPU. Así que no es solo esto (la NPU), aunque esta cosa está en el centro de la mente de todos porque es la nueva pieza… La NPU definitivamente se hará realidad en 2024. Pero está aumentando… Realmente, esta es la primera versión de la PC con IA; la PC de próxima generación llegará. Y cuando eso es [here] Estará más integrado en su sistema operativo. Y eso significa que todo su sistema operativo estará más vinculado a él».
Mientras seguíamos hablando, le pregunté a Woligroski sobre el futuro de AMD. preguntando específicamente «¿Qué desafíos enfrenta AMD en este momento con el aprendizaje automático y la IA en general?» Me dijo que la IA está evolucionando a un ritmo tan rápido en comparación con las innovaciones informáticas del pasado que es difícil saber dónde estarán las cosas en los próximos años. Esto ha provocado que la empresa tenga que cambiar frecuentemente de rumbo en sus planes.
«Lo bueno también es lo malo, ¿no?» Respondió. «La velocidad a la que esto se está moviendo hace que sea muy difícil hacer una bola de cristal dentro de un año o dos años, en comparación con nuestros modelos informáticos tradicionales, donde está bien, necesitamos más GPU, necesitamos más CPU, y esta cantidad cada año parece «Ser realmente bueno y a la gente le gusta. Ahora nos preguntamos: ¿qué será lo que más se gravará? ¿Dónde ponemos nuestros recursos? ¿Qué tipo de software optimizamos?
«Y he visto esos objetivos cambiar durante el último año, donde pensamos que era una cosa y luego pensamos, oh, está bien, esto está sucediendo aquí y luego trabajemos en eso y se acabó. Aquí. Así que se está moviendo muy rápido. Y la buena noticia es que no puedo ver que se sostenga de manera realista. Quiero decir, es como la fiebre del oro, pero probablemente disminuirá en un par de años, y entonces simplemente refinaremos la experiencia y la haremos más fácil y accesible, lo cual ya estamos haciendo».
PC con IA en nuestro futuro
Este año, ya hemos visto una gran ola de PC con IA llegar al mercado, y hay más en camino. Estas computadoras ya son increíblemente impresionantes y nos permiten realizar tareas de IA mucho más rápido en nuestros sistemas locales de lo que hemos podido hasta ahora. A medida que pase el tiempo, AMD perfeccionará su hardware y nos brindará experiencias aún mejores.
Realmente estamos en la cúspide de un gran cambio en el mercado de las computadoras portátiles y estas primeras oleadas de PC con IA son solo el comienzo. Sin duda, AMD tomará medidas para continuar el crecimiento en esta área en los próximos años.