La H100 de Nvidia, la GPU de última generación diseñada para sistemas de IA, ha sido vista en eBay por más de $40,000.
Al menos ocho de las tarjetas se cotizaron entre $ 39,995 y poco menos de $ 46,000, aunque algunos vendedores las han estado ofreciendo por tan solo $ 36,000.
El H100 es el sucesor de la compañía del A100, conocido por impulsar modelos populares de IA como ChatGPT, ya que constituyen una parte central de la infraestructura de computación en la nube que forma Microsoft Azure, que es donde se aloja el popular escritor de IA.
costos crecientes
La escalada en el precio fue impulsada por el gran aumento en el interés de la IA, iniciado por el gran éxito de ChatGPT de OpenAI. En perspectiva, el A100 anterior está valorado en alrededor de $ 10,000.
A medida que más empresas buscan desarrollar sus propios sistemas avanzados de inteligencia artificial, requieren la potencia que ofrece el H100 para satisfacer sus necesidades. Se requieren terabytes de datos para entrenar y desarrollar modelos de lenguaje grande como ChatGPT, y cientos de estas GPU deben trabajar en conjunto y ejecutarse durante días o incluso semanas.
Microsoft ha sido un inversor clave en OpenAI y ha gastado millones (se abre en una pestaña nueva) en obtener suficientes A100 para construir ChatGPT. Y la propia Nvidia ofrece acceso a su propia supercomputadora DGX por $37,000 al mes, que se ejecuta en los A100.
Como seguimiento, el H100 es el primer chip diseñado específicamente para la arquitectura informática utilizada en aplicaciones avanzadas de IA, que espera marque el comienzo de una nueva era de sistemas de IA aún más potentes y capaces.
Dados los enormes costos involucrados en el desarrollo de IA, no es de extrañar que Microsoft esté ansioso por ver algunos retornos de su considerable inversión, ya que recientemente ha estado incorporando tecnología avanzada en muchos de sus servicios. Junto con la caída de los ingresos que ha visto en su sector del sistema operativo Windows, que alguna vez fue el buque insignia, el efectivo no puede llegar lo suficientemente rápido.
- Para obtener un rendimiento potente más realista, eche un vistazo a nuestras mejores estaciones de trabajo