Advanced Micro Devices (AMD) y la empresa de telecomunicaciones coreana KT se encuentran entre los inversores de Moreh, que crea una herramienta de software de inteligencia artificial que optimiza y crea modelos de inteligencia artificial. La startup con sede en Santa Clara y Seúl dijo que ha recaudado una ronda Serie B de 22 millones de dólares, lo que eleva el total recaudado a 30 millones de dólares.
Moreh dice que su software insignia de IA, llamado MoAI, es similar a CUDA de Nvidia pero es compatible con marcos de aprendizaje automático existentes como PyTorch de Meta, TensorFlow de Google y aplicaciones y modelos de IA que anteriormente solo podían ejecutarse en Nvidia.
La startup cree que el software de IA existente es adecuado para modelos de IA a pequeña escala que utilizan sólo unas pocas GPU (unidades de procesamiento de gráficos), pero es inadecuado para una infraestructura de IA más masiva. Según un informe reciente, dado que “la IA está madurando rápidamente a escala empresarial”, la infraestructura de TI y las arquitecturas de datos de las empresas son “no aptas” para entrenar modelos de IA.
Las soluciones de inteligencia artificial de Moreh permiten a los usuarios, incluidos los desarrolladores de inteligencia artificial, los operadores de centros de datos y los fabricantes de chips de inteligencia artificial, construir una infraestructura de inteligencia artificial más flexible, importante dada la escasez general de GPU a nivel mundial, dijo a TechCrunch Gangwon Jo, cofundador y director ejecutivo de Moreh.
El software de inteligencia artificial de la startup de tres años permite que las GPU y otros chips de inteligencia artificial, como las unidades de procesamiento neuronal (NPU), operen modelos de inteligencia artificial, incluidos modelos de lenguaje grande (LLM) como GPT-3 y T5, sin ningún cambio de código, dijo Jo. explicado. (NPU es un chip especializado diseñado para acelerar algoritmos de aprendizaje automático, mientras que GPU se utiliza para supercomputación, inteligencia artificial, aprendizaje automático y análisis de datos extensos donde se requiere precisión numérica).
KT ha estado trabajando con Moreh desde 2021 para construir una infraestructura de IA escalable y rentable impulsada por GPU AMD y software MoAI.
KT afirma que la oferta de Moreh demostró que su tecnología funciona y que su rendimiento en el desarrollo de LLM y otros modelos de IA superó al DGX de Nvidia en términos de velocidad de rendimiento y capacidad de memoria de GPU. El acelerador MI250 Instinct de AMD impulsado por la plataforma MoAI mostró un rendimiento de GPU un 116% mayor que el A100 de Nvidia, según Moreh, que también dijo que los desarrolladores de IA podrían reducir una décima parte del tiempo total requerido para iniciar el entrenamiento para grandes modelos de IA a través de su software.
Más recientemente, la startup completó la capacitación de un LLM en coreano con 211 mil millones de parámetros y lanzará el modelo como código abierto a finales de este año.
Moreh comenzó a generar ingresos en 2021 y apunta a alcanzar aproximadamente 30 millones de dólares para fines de 2023, dijo Jo a TechCrunch.
«El ecosistema de software de IA que respalda el hardware de IA de AMD continúa creciendo, brindando opciones a los científicos de datos y otros usuarios de IA a medida que construyen los modelos y soluciones de IA que impulsarán el crecimiento continuo de esta industria», Brad McCredie, vicepresidente corporativo de datos. GPU central y procesamiento acelerado en AMD, dijo en un comunicado.
Moreh utilizará el dinero para investigación y desarrollo, expansión de productos y contratación de personal adicional, que ahora cuenta con 70 empleados. Las firmas surcoreanas de capital riesgo Smilegate Investment y Forest Partners, el actual inversor de Moreh, también participaron en la ronda Serie B.