Las CPU Core Ultra de Intel han aportado enormes capacidades de IA a través de su NPU, ya que logran ejecutar más de 500 modelos de IA en una sola máquina.
Intel muestra las capacidades de las NPU dedicadas de Core Ultra y logra operar cientos de modelos de IA
[Press Release]: Hoy, Intel anunció que superó los 500 modelos de IA que funcionan optimizados con los nuevos procesadores Intel Core Ultra: el principal procesador de PC con IA de la industria disponible en el mercado hoy en día, que presenta nuevas experiencias de IA, gráficos inmersivos y una duración óptima de la batería. Este importante hito es el resultado de la inversión de Intel en la IA del cliente, la transformación de la PC con IA, las optimizaciones del marco y las herramientas de IA, incluido el kit de herramientas OpenVINO.
Los 500 modelos, que se pueden implementar en la unidad central de procesamiento (CPU), la unidad de procesamiento de gráficos (GPU) y la unidad de procesamiento neuronal (NPU), están disponibles en fuentes populares de la industria, incluidas OpenVINO Model Zoo, Hugging Face y ONNX Model Zoo. y PyTorch. Los modelos se basan en categorías de inferencia de IA local, que incluyen lenguaje grande, difusión, superresolución, detección de objetos, clasificación/segmentación de imágenes, visión por computadora y otras.
Por qué es importante: Superar los 500 modelos de IA es un momento histórico para los esfuerzos de Intel por fomentar y respaldar la transformación de las PC con IA. El procesador Intel Core Ultra no solo es el procesador de PC con IA de más rápido crecimiento hasta la fecha (vendiendo más unidades en un solo trimestre que los procesadores de la competencia en todo 2023), sino que también es la plataforma más sólida para el desarrollo de PC con IA, con más modelos de IA. marcos y tiempos de ejecución habilitados que cualquier otro proveedor de procesadores.
Los modelos forman la columna vertebral de las funciones de software mejoradas por IA, como la eliminación de objetos, la superresolución de imágenes o el resumen de texto. Existe un vínculo directo entre la cantidad de modelos habilitados/optimizados y la amplitud de funciones de IA orientadas al usuario que se pueden llevar al mercado. Sin un modelo, la característica no se puede diseñar. Sin optimización del tiempo de ejecución, la función no puede alcanzar su mejor rendimiento.
Cómo funcionan los modelos de IA: Los modelos de IA son una de las muchas capas críticas de la pila de software que determinan el rendimiento, la estabilidad y las capacidades finales de una aplicación impulsada por IA. Los modelos de IA están entrenados para analizar grandes cantidades de datos, sacar conclusiones y tomar acciones basadas en dichas inferencias. Los desarrolladores que crean nuevas funciones de PC con IA pueden utilizar estos modelos y desarrollarlos. Cuantos más modelos de IA haya, más funciones de PC con IA estarán habilitadas.
Los modelos de IA pueden actuar sobre texto, voz, audio, imágenes y otras fuentes audiovisuales comunes a la experiencia de la PC. Los modelos de IA forman la base de las funciones mejoradas de IA desarrolladas para que las disfruten los usuarios, como el resumen automático de texto, la reducción del consumo de energía durante las teleconferencias o la eliminación de objetos no deseados de una imagen. OpenVINO optimiza Intel Core Ultra equilibrando la carga en todas las unidades informáticas, comprimiendo los modelos para que se ejecuten de manera eficiente en una PC con IA y optimizando el tiempo de ejecución para aprovechar el ancho de banda de la memoria y la arquitectura central dentro de Intel Core Ultra.
Los esfuerzos continuos para habilitar un conjunto inigualable de modelos de alto rendimiento en Intel Core Ultra ofrecen un amplio campo de innovación para los desarrolladores de software y simplifican la entrega de aplicaciones y funciones de PC con IA a los usuarios.
Acerca de características y beneficios adicionales: Características y beneficios de los más de 500 modelos de IA optimizados:
- Facilita el desarrollo y la implementación.
- Abarca más de 20 categorías de IA, incluido lenguaje extenso, difusión, superresolución, detección de objetos y visión por computadora.
- Incluye Phi-2, Mistral, Llama, Bert, Whisper y Stable Diffusion 1.5.
- Mejora la estabilidad, la confiabilidad y el rendimiento del sistema.