Sin duda, la demanda de GPU está aumentando nuevamente a medida que los precios eclipsan los $ 70,000 por GPU en algunos lugares de China (eso es para una GPU H800 de centro de datos), y los líderes en la industria informática de los EE. completamente lleno y los suministros de hardware GPU son todos reservado para el año que viene. Los tiempos difíciles exigen medidas drásticas, y estamos comenzando a ver evidencia de que las GPU que deberían dirigirse a las plataformas de PC de escritorio domésticas, en cambio, están siendo absorbidas por los jugadores de la industria de la IA.
Naturalmente, a los jugadores y entusiastas les preocupará que se repita la locura de la criptominería, que diezmó los suministros de GPU de los consumidores: ¿Están los cripto-bros de antaño destinados a ser reemplazados por los AI-bros, apoderándose de nuestras preciadas GPU para juegos?
La primera evidencia sólida de empresas centradas en la IA que compran GPU de consumo proviene de un alarde tuiteado por el icónico hacker de TI y empresario George Hotz (también conocido como geohot).
AMD (a diferencia de Qualcomm) es un placer comprar chips. Hoy se entregaron 7,38 PFLOPS de cómputo, con exaflops más por venir. Es bueno verlos más activos en ROCm GitHub, estamos trabajando en la capa superior @__tinygrad__ pic.twitter.com/5yE11TVA5F1 de agosto de 2023
Arriba, si expande el tweet, puede ver a Hotz, quien actualmente lidera un negocio automatizado de asistencia a la conducción impulsado por IA llamado Comma AI, habla sobre la compra de cajas de GPU para juegos de AMD.
La imagen muestra un supuesto «7.38 PFLOPS de cómputo» parcialmente desempaquetado. Claramente podemos espiar una GPU XFX MERC 310 en la foto, y el recuadro dice «AMD Radeon RX 7900 XTX». Ese es un diseño XFX basado en la GPU de consumo insignia de AMD y las mejores tarjetas gráficas para juegos en segundo lugar en 2023 en nuestro resumen actualizado con frecuencia.
Nuestros cálculos a partir de la declaración y la imagen de Hotz son que hay 60 GPU en este lote de «7.38 PFLOPS» (basado en el rendimiento de FP16). Cada una de estas tarjetas RX 7900 XTX cuesta $ 979.99 en Amazon, en el momento de escribir este artículo. Por lo tanto, Hotz aparentemente gastó alrededor de $ 60,000 en esta modesta pila de potencia de GPU.
Obviamente, esto es una mera gota en el océano, ya que el fundador y presidente de Comma AI dice que «hay más exaFLOPS por venir». Como referencia, un exaFLOPS equivale a 1000 petaFLOPS de rendimiento. Si asumimos que Hotz tiene como objetivo comprar hasta 7,38 exaFLOPS de cómputo de GPU (1000 veces el primer lote), es posible que haya presupuestado unos 60 millones de dólares para esta ola de compras de tarjetas gráficas de consumo. O tal vez solo ~ $ 20 millones, si solo busca alrededor de 2 exaFLOPS de cómputo de IA.
Un aparte interesante con la compra anterior de GPU AMD es que ciertas cargas de trabajo de IA pueden usar mucha memoria. Si bien pagar casi $1,000 por GPU por un AMD 7900 XTX que incluye «solo» 122,88 teraFLOPS de capacidad de procesamiento de números FP16 puede parecer extraño, dado que el RTX 4060 cuesta $300 y puede proporcionar alrededor de 121 teraFLOPS de cómputo FP16 (con escasez), la GPU AMD proporciona tres veces más VRAM. Entonces, si las cargas de trabajo necesitan memoria, necesitaría tres tarjetas RTX 4060 o dos tarjetas RTX 4070 para obtener los mismos 24 GB, más los servidores para almacenar todas esas GPU.
La declaración tuiteada de George Hotz no es la primera señal de advertencia que hemos visto de la creciente demanda de GPU en la industria de la IA. Hace unos días, informamos sobre la rápida inflación de las GPU en China. Se cree que los temores de más sanciones de EE. UU. a China ayudaron a aumentar los precios de los aceleradores como las GPU A800 y H800. Unas semanas antes, el precio de un A800 subió un 20 % casi de la noche a la mañana debido a los temores de sanciones inminentes.
Teniendo en cuenta otros indicadores recientes, podemos ver claramente que el auge de la IA está teniendo un profundo impacto en el suministro de GPU centradas en la computación. Ahora, la única pregunta es hasta qué punto esa demanda insaciable afectará también a las GPU para juegos.