La startup de IA, Tiny Corp, ha anunciado que ofrecerá sistemas de IA en versiones AMD y NVIDIA con precios a partir de 15.000 dólares.
Tiny Corp trabaja con AMD para resolver optimizaciones de software de IA y ahora ofrece sistemas NVIDIA a $ 25 000 y sistemas AMD a partir de $ 15 000
Recientemente informamos sobre el fiasco entre AMD y Tiny Corp, donde la empresa de inteligencia artificial exigió a AMD que abriera algunas de sus bibliotecas de firmware de GPU para continuar con su desarrollo, pero su solicitud fue rechazada.
Con eso, TinyCorp anunció previamente sus intenciones de trabajar con otros fabricantes de GPU y ahora, finalmente, ha presentado una nueva alternativa, con seis de las GPU GeForce RTX 4090 de NVIDIA que alimentan toda la configuración. Sin embargo, la utilización de los productos de Team Green resultó en un aumento masivo de precios, ya que la solución NVIDIA Tiny Box supuestamente cuesta $25,000, un enorme aumento de $10,000 con respecto a la contraparte de AMD. Dicho esto, el sistema AMD también está disponible con GPU Radeon RX 7900 XTX y tiene un precio inicial de 15.000 dólares.
Un repositorio «umr» difícil de encontrar ha cambiado la viabilidad del tinybox de AMD. Será un viaje, pero nos da la capacidad de depurar.
Vamos a vender ambos, el rojo por 15.000 dólares y el verde por 25.000 dólares. Cuando realices tu preventa elegirás tu color. El sitio web ha sido…
— la pequeña corporación (@__tinygrad__) 25 de marzo de 2024
La decisión de Tiny Corp de ofrecer sistemas de IA impulsados por NVIDIA parece desafortunada para la reputación de AMD entre las nuevas empresas de IA, ya que perfeccionar el departamento de «recursos de software» es fundamental para progresar en los mercados, y NVIDIA no ha dejado mucha brecha para los competidores. para completar, a diferencia de AMD. Tiny Corp ha expresado que su empresa seguirá trabajando con AMD para encontrar un gran avance, pero su controlador sigue fallando en ciertos casos o deja de funcionar por completo, según la empresa.
Tiny Corp simplemente afirma que si desea algo que funcione de inmediato, debe optar por la solución con tecnología NVIDIA GeForce. También utilizan la famosa cita del CEO de NVIDIA, Jensen Huang, «It Just Works» para representar la estabilidad de los controladores de IA de NVIDIA.
Las siguientes son algunas de las características de Tinybox de Tiny Corp:
- 738 TFLOP FP16 (AMD) / 991 TFLOP FP16 (NVIDIA)
- 144 GB de RAM
- Ancho de banda de RAM de 5,76 TB/s (AMD) / 6,05 TB/s (NVIDIA)
- Ancho de banda de lectura de disco de 28,7 GB/s
- CPU AMD EPYC, 32 núcleos
- 2x 1500W (dos salidas de 120V, puede limitar la potencia por menos)
- Ejecuta 70B FP16 LLaMA-2 listo para usar usando tinygrad
- 15.000 dólares (AMD)/25.000 dólares (NVIDIA)
Para aquellos que no lo saben, la solución de IA de Tiny Corp permite a los consumidores realizar cargas de trabajo de baja a media centradas en IA en máquinas dedicadas sin utilizar aceleradores de IA modernos, que cuestan una cantidad considerable. Como solución, la empresa decidió incluir GPU de consumo en su hardware, debido a su disponibilidad relativamente más sencilla, menores costos y también relaciones de rendimiento por dólar. La compañía recibió un inmenso interés de los mercados y ya recibió 583 pedidos anticipados para el sistema, que se esperaba que comenzara a enviarse en abril.
¡La tinybox con 6x Intel Arc A770 es colorida! pic.twitter.com/sM1GwIqnMn
— la pequeña corporación (@__tinygrad__) 19 de marzo de 2024
Curiosamente, Tiny Corp también ha creado una solución basada en Intel, montando seis Arc A770 de Intel, pero la compañía no planea venderlos en el corto plazo.