Respuesta rápida: TOPS (Tera operaciones por segundo) es un término utilizado para medir, simplificar y publicitar el rendimiento de la unidad de procesamiento neuronal (NPU) en las PC con IA. TOPS no es una métrica perfecta y muchas variables contribuyen a qué tan bien un sistema puede manejar las tareas de IA. Sin embargo, proporciona una referencia rápida a la velocidad de una NPU y cómo se compara con su competencia.
Mientras nos adentramos en el mundo de PC con IAestán apareciendo muchos términos y acrónimos nuevos que explican el nuevo hardware y las capacidades.
Habrás notado que muchos portátiles modernos – y pronto computadoras de escritorio, con Anuncio del Ryzen PRO 8000 de AMD – se envían con procesadores (CPU) que incluyen una unidad de procesamiento neuronal (NPU) para aumentar el rendimiento específico de la IA.
Con la NPU surge la necesidad de una nueva métrica para medir el desempeño, y ahí es donde entra en juego el término «TOPS». He aquí por qué escuchará mucho más sobre TOPS en el futuro a medida que las PC con IA continúen saturando el mercado.
¿Qué es TOPS?
TOPS no es un término nuevo en el mundo de la tecnología, pero ciertamente está recibiendo mucha atención recientemente con el auge de PC con IA de alta gama (La definición aún es confusa, pero se reduce a una PC con CPU, GPU y NPU modernas). La editora de Windows Central, Rebecca Spear, escribió un excelente artículo sobre en qué se diferencian las NPU de las GPUal que puede consultar para obtener más información.
TOPS simplemente indica cuántos billones de operaciones puede realizar un sistema por segundo. TOPS se puede utilizar para medir el rendimiento general del sistema, pero también se puede dividir para hardware específico.
Por ejemplo, la tarjeta gráfica RTX 4090 de NVIDIA puede ofrecer más de 1300 TOPS de rendimiento, ya sea para juegos o para acelerar tareas de IA. Es uno de los más potentes GPU en el mercado hoy en día, pero esa cifra sigue siendo un poco desconcertante.
CPU Intel Core Ultra – el primero de la compañía en ofrecer una NPU – ofrece 34 TOPS en general (incluida la CPU, la GPU integrada y la NPU), con alrededor de 10 TOPS del total solo para la NPU. Las CPU móviles Ryzen 8040 de AMD aumentan el rendimiento de la NPU hasta 16 TOPS, y el próximo Qualcomm Snapdragon X Elite se lanzará con una NPU capaz de 45 TOPS.
Se espera que Intel, AMD y Qualcomm sigan mejorando el rendimiento de la NPU en las próximas generaciones. ahora sabemos que Las CPU Lunar Lake de próxima generación de Intel ofrecerán una NPU con 45 TOPSy AMD ha dicho que espera triplicar el rendimiento de la NPU en su próxima serie de chips móviles.
Estos fabricantes de chips se están inclinando por TOPS para publicitar sus productos, y es principalmente para simplificar el rendimiento y ayudar a los compradores a comprender lo que están obteniendo.
¿Por qué se mide el rendimiento de la IA con TOPS?
Ciertamente, TOPS no representa el panorama completo cuando se analiza el rendimiento de la NPU. Como el TFLOP locura en 2020, cuando las consolas de próxima generación aún estaban en el horizonte, TOPS se está utilizando para simplificar y anunciar el rendimiento del sistema a más personas. Una NPU capaz de generar dos o tres veces más TOPS que su competidor se ve muy bien en el papel, pero la métrica, en última instancia, carece de matices.
Es una situación de «muchos buenos, pocos malos», al menos a primera vista, pero hay muchos más factores en juego que pueden influir en el rendimiento de una NPU. En teoría, una NPU específica con, digamos, 100 TOPS podría ajustarse para una tarea específica, en la que puede superar a una NPU separada con 200 TOPS que esté ajustada para una tarea diferente.
Medir el rendimiento general de una PC generalmente se reduce a números de referencia concretos y observaciones abstractas. En nuestro revisiones de portátilespor ejemplo, proporcionamos muchos números concretos utilizando software de prueba especializado, pero también brindamos una «sensación» más general de cómo funciona el sistema en escenarios del mundo real.
Probar una NPU también es algo que debe resolverse a medida que avanzamos. Hay puntos de referencia disponibles que apuntan únicamente a la NPU y son un buen comienzo en el camino para medir la potencia en términos de tareas específicas.
TOPS también se utiliza para establecer puntos de referencia de hardware para herramientas de inteligencia artificial integradas. Como Tom’s Hardware informó por primera vezMicrosoft ha establecido un requisito de 40 TOPS para ejecutar Copilot localmente en su sistema sin depender de una conexión a los servidores de Microsoft.
Entonces, incluso si TOPS no es la mejor métrica para juzgar el rendimiento de una NPU, sí brinda a los compradores un estándar con el que pueden comparar aproximadamente las PC con IA.
¿Deberías preocuparte por los TOPS?
Medir TOPS es una forma rápida y sencilla de comparar NPU o de juzgar si una NPU es capaz o no de manejar determinadas herramientas. Sin embargo, TOPS no debe considerarse la medida definitiva cuando se trata de potencia de NPU. Hay muchos matices involucrados y usted quiere estar seguro de que está obteniendo el hardware adecuado para el trabajo que tiene por delante.
¿Deberías preocuparte por los TOPS? Eso depende. Si es un usuario ocasional de PC que maneja el correo electrónico, la navegación web y la productividad, sin duda puede continuar sin preocuparse por las NPU y los métodos utilizados para medir su rendimiento. Si está comprando una computadora portátil nueva, es posible que desee prestar atención a los requisitos de ciertas herramientas de inteligencia artificial que pueden ayudarlo a hacer su vida más fácil.
Si, por otro lado, está interesado en el mundo emergente de las PC con IA, las NPU y sus capacidades medidas en TOPS probablemente ya sean temas familiares. Sólo asegúrese de considerar que TOPS no es la métrica perfecta, sino que es una manera fácil para que los fabricantes de chips comparen y publiciten sus productos.