Parece que podríamos ver otra escasez de GPU tipo criptografía de GPU para juegos, solo que esta vez será causada por la creciente demanda de IA. La escasez de GPU de IA en China ha provocado que las empresas se fijen en las GPU para juegos, y las cosas pueden cambiar aquí.
La adquisición de GPU específicas para IA se ha convertido en una molestia para las nuevas empresas tecnológicas, el interés se está desplazando hacia las GPU para juegos
Anteriormente informamos que la escasez de GPU, como la H100 de NVIDIA, está aumentando rápidamente. NVIDIA no puede satisfacer la inmensa demanda de su mercado, por lo que sus GPU de IA se venden a un costo tremendo, llegando a casi USD $70,000. Si bien esto ha causado obstáculos para adquirir GPU, algunas empresas han encontrado otra forma de abordar la escasez: obtener tarjetas gráficas de consumo.
Si bien no hay mucha evidencia detrás del cambio de interés, un tweet reciente del CEO de Comma AI reveló que la compañía ha traído GPU para juegos de AMD
AMD (a diferencia de Qualcomm) es un placer comprar chips. Hoy se entregaron 7,38 PFLOPS de cómputo, con exaflops más por venir.
Es bueno verlos más activos en ROCm GitHub, estamos trabajando en la capa de arriba @__tinygrad__ pic.twitter.com/5yE11TVA5F
— George Hotz 🐀 (@realGeorgeHotz) 1 de agosto de 2023
La imagen compartida arriba revela un gran lote de GPU AMD y al hacer zoom en la imagen, el modelo es Radeon RX 7900 XTX de XFX «MERC 310». Si bien no se especifica el número exacto de GPU traído, según la imagen y según la métrica utilizada para calcular el rendimiento, debería ser 60 GPU si se usó FP16 y 120 GPU si se usó FP32. Dado que la IA depende principalmente de FP16, podemos decir que hubo un total de 60 GPU, que entregaron un total de 7.38 PTFLOPS (como dijo George). La Radeon RX 7900 XTX se vende al por menor por alrededor de USD $900-1000, por lo que el costo total alcanza los $60,000. George dice que hay más Exaflops por venir.
Quizás se pregunte sobre la elección de las GPU para juegos de AMD. Bueno, hay dos razones principales, la primera es una VRAM alta. Se requieren cargas de trabajo de IA para tener capacidades de memoria significativas, y dado que Radeon RX 7900 XTX es la oferta de gama más alta de AMD, se considera la mejor opción. La VRAM de 24 GB tiene un precio mucho más bajo en comparación con la oferta superior de NVIDIA, que se vende al por menor por $ 1599 EE. UU. y más.
En segundo lugar, como afirmó el propio George («AMD (a diferencia de Qualcomm) es un placer comprar chips»), adquirir GPU de IA ha sido un dolor para las nuevas empresas tecnológicas, ya que solo los jugadores de la industria como OpenAI y Microsoft tienen acceso exclusivo al inventario de NVIDIA. . Las GPU para juegos de AMD no han ganado tanto impulso de ventas como la línea Ada Lovelace de NVIDIA; por lo tanto, es más fácil acceder a las ofertas de gama alta de AMD y, quién sabe, tal vez George también obtuvo un buen descuento.
En este momento, no es factible discutir si la IA causará escasez de GPU, pero hemos informado varias veces sobre retrasos en los pedidos y retrasos en las GPU de IA. Esto ha creado la oportunidad para que las empresas vean las GPU para juegos y, como todos saben, cuando NVIDIA y AMD ven una oportunidad así, la aprovechan tan rápido como la luz. Puede que nunca lo sepamos; puede haber una posibilidad de que veamos otra categoría «LHR» y «NON-LHR», pero esta vez, para la informática de IA.
PugetSystems publicó pruebas comparativas de las GPU de nivel de consumidor de AMD y NVIDIA dentro de Stable Diffusion y los resultados son muy interesantes. Puede ver que las últimas tarjetas gráficas Radeon y GeForce para juegos ofrecen un rendimiento excepcional que brinda a las empresas de IA aún más incentivos para buscar GPU para juegos que ofrecen un mejor valor que las piezas Pro y HPC mientras están fácilmente disponibles en los estantes minoristas.
Al final, el hecho es que el mercado de PC está en su punto más bajo en este momento, por lo que cualquier compañía, incluidas NVIDIA y AMD, aceptará cualquier cosa que pueda impulsar más ventas del hardware. Quién sabe, incluso el RTX 4060 Ti de 16 GB puede convertirse en un éxito en el mercado de la IA (aunque no tanto en el segmento de los juegos).
Fuente de noticias: Hardware de Tom