Supermicro presentó un servidor basado en Arm, el ARS-210M-NR, en diciembre de 2022 y Servethehome lo tomó para dar una vuelta, cargándolo con cuatro tarjetas Nvidia A16. El servidor de prueba vino con un procesador Ampere Altra Max Arm de 128 núcleos, funcionando a 3 GHz, con 16 módulos de memoria DDR4 (memoria de 512 GB en total), dos puertos SPF28 con capacidad de 25 GbE, 16 bahías de 2,5 pulgadas y un par de fuentes de alimentación de 2 Kw. , todo muy bien ensamblado en un chasis sin herramientas.
La guinda del pastel es el cuarteto de tarjetas gráficas Nvidia A16 basadas en Ampere. Cada tarjeta viene con 64 GB de memoria GDDR6 ECC y cuatro GPU que se asientan en una PCB de doble ranura de longitud completa y refrigeración pasiva. La A16 no es la tarjeta de centro de datos más poderosa que tiene Nvidia; ese sería el A100; sin embargo, llega a un punto óptimo para los proveedores de servicios que buscan obtener la máxima cantidad de usuarios simultáneos en una sola placa.
En términos de rendimiento puro, cada una de estas GPU tiene la mitad de núcleos CUDA que la Geforce RTX 3050, por lo que sí, debería poder ejecutar el legendario juego Crysis sin demasiados problemas, lo que significa que, en teoría, podría tener 16 iteraciones de uno de los juegos más exigentes jamás ejecutados simultáneamente. Solo necesitas crear 16 maquinas virtuales y cargar 16 copias de crisis.
No se proporcionaron detalles de precios, pero dado que el A16 se vende al por menor por alrededor de $ 3,000 y un servidor completamente cargado con credenciales similares cuesta alrededor de $ 10,000, se esperaría que desembolse más de $ 22,000 para dicho sistema.
Energía para la nube
Ahora, ¿quién necesitaría tal libertinaje de poder? Para empezar, los juegos en la nube ahora son la corriente principal (incluso si Google se rescató a principios de este año cuando dejó de funcionar). Estadios) y son los gustos del ARS-210M-NR los que lo hacen realidad.
Sin embargo, más allá de esto, se trata de VDI (infraestructura de escritorio de video) para negocios y empresas. El aumento de trabajo híbrido actuó como catalizador para la adopción de Virtual Puesto de trabajo (y PC virtual) como trabajar desde casa se convirtió en una realidad para millones de usuarios. Y solo uno de estos servidores puede acomodar muchas VM (máquinas virtuales); una prueba reciente realizada por una empresa de computación en la nube Nutanix mostró que dos tarjetas gráficas Nvidia A16 pueden manejar 128 máquinas virtuales, lo que significa que cuatro tarjetas deberían poder ejecutar 256.
Por supuesto, es posible que deba implementar una CPU más potente que Altra Max y más memoria también (Nutanix usó 1,5 TB de RAM y dos Intel Xeon Gold 6354, cada uno con 18 núcleos físicos). Aumentar el soporte de SaaS para GPU virtual en una amplia gama de aplicaciones (por ejemplo, photoshop o Cromo) explica por qué los servidores densos con una cantidad muy alta de GPU se están convirtiendo en algo común.
Otras aplicaciones como alojamiento web puede beneficiarse de un alto número de núcleos de CPU, razón por la cual VPS (servidores privados virtuales) son tan asequibles ahora con la diferencia de precio con servidores dedicados y metal básico soluciones restantes alto.
Servethehome ejecutó el servidor 2U en ubuntu y aunque la experiencia no fue tan fluida como podría ser, sin duda valió la pena el esfuerzo. Arm se está convirtiendo lentamente en un oponente formidable tanto para el Xeon de Intel como para el Epyc de AMD y con Amazon preparando la cuarta generación de su Gravitón Familia de CPU, nunca ha habido un mejor momento para probar Arm.