\n<\/p>\n
El apetito por nubes alternativas nunca ha sido tan grande.<\/p>\n
Un ejemplo: CoreWeave, el proveedor de infraestructura de GPU que comenz\u00f3 su vida como una operaci\u00f3n de miner\u00eda de criptomonedas, recaud\u00f3 esta semana 1.100 millones de d\u00f3lares en nuevos fondos de inversores como Coatue, Fidelity y Altimeter Capital. La ronda eleva su valoraci\u00f3n a 19 mil millones de d\u00f3lares despu\u00e9s del dinero, y su total se eleva a 5 mil millones de d\u00f3lares en deuda y capital, una cifra notable para una empresa que tiene menos de diez a\u00f1os.<\/p>\n
No se trata s\u00f3lo de CoreWeave.<\/p>\n
Lambda Labs, que tambi\u00e9n ofrece una variedad de instancias de GPU alojadas en la nube, asegur\u00f3 a principios de abril un \u201cveh\u00edculo de financiaci\u00f3n de prop\u00f3sito especial\u201d de hasta 500 millones de d\u00f3lares, meses despu\u00e9s de cerrar una ronda Serie C de 320 millones de d\u00f3lares. La organizaci\u00f3n sin fines de lucro Voltage Park, respaldada por el cripto multimillonario Jed McCaleb, anunci\u00f3 en octubre pasado que est\u00e1 invirtiendo 500 millones de d\u00f3lares en centros de datos respaldados por GPU. Y Together AI, un host de GPU en la nube que tambi\u00e9n realiza investigaciones de IA generativa, obtuvo en marzo 106 millones de d\u00f3lares en una ronda liderada por Salesforce.<\/p>\n
Entonces, \u00bfa qu\u00e9 se debe tanto entusiasmo (y tanto dinero invertido) por el espacio alternativo en la nube?<\/p>\n
La respuesta, como era de esperar, es la IA generativa.<\/p>\n
A medida que contin\u00faan los tiempos de auge de la IA generativa, tambi\u00e9n aumenta la demanda de hardware para ejecutar y entrenar modelos de IA generativa a escala. Las GPU, desde el punto de vista arquitect\u00f3nico, son la opci\u00f3n l\u00f3gica para entrenar, ajustar y ejecutar modelos porque contienen miles de n\u00facleos que pueden trabajar en paralelo para realizar las ecuaciones de \u00e1lgebra lineal que componen los modelos generativos.<\/p>\n
Pero instalar GPU es caro. Por eso, la mayor\u00eda de los desarrolladores y organizaciones recurren a la nube.<\/p>\n
Los operadores tradicionales en el espacio de la computaci\u00f3n en la nube (Amazon Web Services (AWS), Google Cloud y Microsoft Azure) no ofrecen escasez de GPU y instancias de hardware especializadas optimizadas para cargas de trabajo de IA generativa. Pero al menos para algunos modelos y proyectos, las nubes alternativas pueden terminar siendo m\u00e1s baratas y ofreciendo una mejor disponibilidad.<\/p>\n
En CoreWeave, alquilar una Nvidia A100 de 40 GB, una opci\u00f3n popular para el entrenamiento y la inferencia de modelos, cuesta 2,39 d\u00f3lares por hora, lo que equivale a 1.200 d\u00f3lares al mes. En Azure, la misma GPU cuesta $3,40 por hora, o $2482 por mes; en Google Cloud, cuesta $ 3,67 por hora, o $ 2682 por mes.<\/p>\n
Dado que las cargas de trabajo de IA generativa generalmente se realizan en grupos de GPU, los deltas de costos crecen r\u00e1pidamente.<\/p>\n
\u00abEmpresas como CoreWeave participan en un mercado que llamamos proveedores especializados en la nube ‘GPU como servicio'\u00bb, dijo a TechCrunch Sid Nag, vicepresidente de servicios y tecnolog\u00edas en la nube de Gartner. \u00abDada la gran demanda de GPU, ofrecen una alternativa a los hiperescaladores, donde tomaron las GPU de Nvidia y proporcionaron otra ruta de comercializaci\u00f3n y acceso a esas GPU\u00bb.<\/p>\n
Nag se\u00f1ala que incluso algunas grandes empresas tecnol\u00f3gicas han comenzado a recurrir a proveedores de nube alternativos a medida que enfrentan desaf\u00edos de capacidad inform\u00e1tica.<\/p>\n
En junio pasado, CNBC inform\u00f3 que Microsoft hab\u00eda firmado un acuerdo multimillonario con CoreWeave para garantizar que OpenAI, el fabricante de ChatGPT y socio cercano de Microsoft, tuviera la potencia inform\u00e1tica adecuada para entrenar sus modelos de IA generativa. Nvidia, proveedor de la mayor parte de los chips de CoreWeave, ve esto como una tendencia deseable, tal vez por razones de apalancamiento; se dice que ha dado a algunos proveedores de nube alternativos acceso preferencial a sus GPU.<\/p>\n
Lee Sustar, analista principal de Forrester, considera que los proveedores de nube como CoreWeave tienen \u00e9xito en parte porque no tienen el \u00abequipaje\u00bb de infraestructura con el que tienen que lidiar los proveedores tradicionales.<\/p>\n
\u201cDado el dominio del hiperescalador en el mercado general de la nube p\u00fablica, que exige grandes inversiones en infraestructura y una gama de servicios que generan pocos o ning\u00fan ingreso, los retadores como CoreWeave tienen la oportunidad de tener \u00e9xito con un enfoque en servicios premium de IA sin la carga del nivel de hiperescalador. inversiones en general\u201d, dijo.<\/p>\n
\u00bfPero es este crecimiento sostenible?<\/p>\n
Sustar tiene sus dudas. \u00c9l cree que la expansi\u00f3n de los proveedores de nube alternativos estar\u00e1 condicionada por si pueden continuar ofreciendo GPU en l\u00ednea en un gran volumen y ofrecerlas a precios competitivamente bajos.<\/p>\n
Competir en precios podr\u00eda convertirse en un desaf\u00edo en el futuro a medida que empresas tradicionales como Google, Microsoft y AWS aumenten sus inversiones en hardware personalizado para ejecutar y entrenar modelos. Google ofrece sus TPU; Microsoft present\u00f3 recientemente dos chips personalizados, Azure Maia y Azure Cobalt; y AWS tiene Trainium, Inferentia y Graviton.<\/p>\n
\u00abLos hipercalers aprovechar\u00e1n su silicio personalizado para mitigar su dependencia de Nvidia, mientras que Nvidia buscar\u00e1 CoreWeave y otras nubes de IA centradas en GPU\u00bb, dijo Sustar.<\/p>\n
Luego est\u00e1 el hecho de que, si bien muchas cargas de trabajo de IA generativa funcionan mejor en GPU, no todas las cargas de trabajo las necesitan, especialmente si no son urgentes. Las CPU pueden ejecutar los c\u00e1lculos necesarios, pero normalmente son m\u00e1s lentas que las GPU y el hardware personalizado.<\/p>\n
M\u00e1s existencialmente, existe la amenaza de que la burbuja generativa de la IA explote, lo que dejar\u00eda a los proveedores con montones de GPU y no suficientes clientes que las demanden. Pero el futuro parece prometedor a corto plazo, dicen Sustar y Nag, quienes esperan un flujo constante de nuevas nubes.<\/p>\n
\u201cLas nuevas empresas en la nube orientadas a GPU dar\u00e1n [incumbents] Hay mucha competencia, especialmente entre clientes que ya son multinube y pueden manejar la complejidad de la gesti\u00f3n, la seguridad, el riesgo y el cumplimiento en m\u00faltiples nubes\u201d, dijo Sustar. \u201cEse tipo de clientes de la nube se sienten c\u00f3modos probando una nueva nube de IA si tiene un liderazgo cre\u00edble, un respaldo financiero s\u00f3lido y GPU sin tiempos de espera\u201d.<\/span><\/p>\n<\/p><\/div>\n