A principios de esta semana, el New York Times arrojó luz sobre parte de la desesperación que los fundadores están experimentando mientras intentan y no logran asegurar el poder de cómputo para sus incipientes nuevas empresas de inteligencia artificial, gracias a las grandes empresas (e incluso las naciones ricas) que compiten para arrebatar hacia arriba. Según los informes, un fundador dijo sobre las unidades de procesamiento de gráficos, o GPU, que necesita para su empresa: “Pienso en [them] como un metal de tierras raras en este punto.”
Según ese artículo del Times, los fundadores están probando numerosas medidas para acumular los chips, incluido pedir favores a amigos de grandes proveedores de equipos que podrían tener GPU de sobra, y navegar por un oscuro programa del gobierno de EE. UU. llamado Access.
Al menos una empresa, el inversionista global Index Ventures, tuvo una idea adicional, le dijo al medio. Para ayudar a garantizar que las empresas de su cartera no se vean obstaculizadas por la escasez, llegó a un acuerdo con Oracle para proporcionar a sus fundadores algunos de estos chips buscados (específicamente los chips H100 de Nvidia y los chips A100 de Nvidia).
Para obtener más información sobre el acuerdo, uno que sin duda otras empresas de riesgo están tratando de replicar, hablamos hoy con Erin Price-Wright, una socia de Index con sede en el Área de la Bahía que se enfoca en software empresarial e IA y que, antes de unirse a la empresa firma en 2019, fue el jefe de pProducto para la plataforma de aprendizaje automático y análisis de datos de Palantir. Los extractos de nuestro chat se han editado ligeramente por extensión y claridad a continuación; Puedes escuchar nuestra conversación más larga aquí.
TechCrunch: Cuéntenos sobre esta asociación con Oracle.
Erin Price-Wright: El acceso a la computación es uno de los mayores desafíos que enfrentan las empresas de IA, y es especialmente difícil para una empresa en etapa inicial obtener GPU. Se trata menos del costo en particular, pero del hecho de que algo así como más del 95 % de la capacidad de la GPU ya está asignada a los grandes jugadores en este espacio. [because] hacen estos compromisos previos bastante grandes con los proveedores de la nube. Entonces, si es una empresa en etapa inicial y solo está tratando de comenzar a capacitarse o ajustar el modelo, generalmente hay un tiempo de espera muy largo entre el momento en que las GPU están disponibles. Puede ser de tres meses a un año en algunos casos y es muy difícil empezar.
Si es una empresa en etapa inicial que aún está averiguando cuál es su producto, ni siquiera sabe cuántas GPU necesita. Entonces, incluso ese proceso de descubrimiento de comprender cómo se verán sus cargas de trabajo puede ser un gran desafío para las empresas en etapa inicial. Por lo tanto, nos asociamos con Oracle para proporcionar GPU a nuestras empresas de cartera en etapa inicial, porque queremos ayudar a eliminar esa barrera de acceso para que realmente puedan concentrarse en lo que importa desde el día cero. En última instancia, el objetivo es ayudar a todas estas empresas a graduarse en su propio clúster. No estamos en el negocio de proporcionar estos clústeres de GPU masivos a nuestras empresas. . .pero realmente queremos darles una ventaja, para que puedan comenzar a construir más rápido como una forma de ayudar a nivelar el campo de juego.
¿Cómo se armó el trato?
Queríamos asegurarnos de que las personas que están construyendo frente a problemas comerciales muy tangibles no sintieran que tenían que cambiar su modelo comercial o cambiar la forma en que se representaban a sí mismos o cambiar la forma en que recaudaban fondos solo para tener acceso a las GPU. . Así que realmente nació de ver este patrón una y otra vez con empresas en etapa inicial en las que pensamos: ‘Aquí es donde Index como fondo realmente tiene un apalancamiento real. Y podemos usar nuestra posición en el mercado, nuestras relaciones y el hecho de que podemos agregar esta demanda en varias empresas para brindar realmente servicios de valor agregado. [to our founders].
¿Index realizó un pago inicial o compró chips directamente de Oracle? ¿Le estás dando a Oracle una participación en estas nuevas empresas?
No vamos a comprar fichas directamente. Entonces, la asociación con Oracle es que Index hace el compromiso previo en nombre de nuestras nuevas empresas y paga la factura de la nube. Oracle administra el clúster (ha sido un socio fantástico) y luego nuestras empresas obtienen acceso a ese clúster de GPU de forma gratuita.
Entonces estás pagando [this cloud bill] por adelantado. ¿Tuviste que hablar con tus propios inversores sobre eso? Eso no es típico de lo que [a venture firm] haría históricamente.
En términos de la estructura real de cómo funciona el acuerdo, probablemente me abstendré de compartir muchos de esos detalles.
¿Es esta una relación exclusiva? ¿Hay algo que impida que otras empresas de riesgo hagan lo mismo?
Sí, por supuesto [they could do the same]ciertamente no hay [an exclusive relationship with Index].
Uno de los beneficios que obtiene Oracle es conocer a la próxima generación de empresas fantásticas lo antes posible. En el proceso de usar nuestro clúster de GPU, estamos ayudando activamente a nuestras empresas a navegar el proceso de firmar su propio acuerdo de nube dedicado. Entonces la idea no es que ellos [do] esto a perpetuidad; les corresponde a ellos desarrollar relaciones con Oracle y AWS y los otros grandes proveedores de la nube y firmar su propio contrato dedicado.
Una de sus empresas de cartera, Cohere, cuenta con Oracle como uno de sus patrocinadores junto con Nvidia, que son dos de las empresas que más le gustaría tener involucradas con sus empresas de cartera en este momento.
Una de las formas en que realmente podemos ayudar a las empresas de nuestra cartera es asegurarnos de que estén conectadas con las personas adecuadas en el momento adecuado, para que obtengan los recursos que necesitan.
Index tiene al menos 20 empresas de cartera que entran en el grupo AI/ML, incluido Cohere [which has already raised $445 million] y otra empresa que recientemente planteó una gran ronda semilla, Mistral AI en Francia. ¿Se está invirtiendo demasiado dinero en IA generativa o todavía estamos en las «primeras entradas», como les gusta decir a los capitalistas de riesgo?
Estamos en las primeras entradas. Creo que estamos entrando rápidamente en un período de enfriamiento en términos de sentimiento, especialmente para algunas de estas rondas muy grandes y especialmente de los capitalistas de riesgo tradicionales. Todavía hay una brecha realmente grande entre la promesa y el poder de los modelos centrales de tecnología y lo que se necesitará para que sean realmente utilizados y útiles en muchos casos de uso en la empresa. Solo falta una gran brecha de infraestructura que debe llenarse, y no se va a llenar de la noche a la mañana; va a tomar algún tiempo.
Durante los próximos 12 meses, si bien todavía estoy muy entusiasmado con el poder de la tecnología central y lo transformador que será para el mundo, creo que vamos a ver un poco de retroceso a medida que las empresas realmente luchan con él, descubra el ROI, priorice los casos de uso y comience a construir cosas reales más allá de quizás uno o dos prototipos de aplicaciones de demostración en las que han estado trabajando durante los últimos seis meses. Ahí es cuando vamos a comenzar a ver emerger la infraestructura que comenzará a admitir estos casos de uso a escala.
¿Cómo se asegura usted, como inversor, de que sus empresas de IA no se superponen? ¿Y es eso más difícil o más difícil que cuando se trata de nuevas empresas tradicionales?
No creo que sea muy diferente de cómo pensamos sobre la competencia en otros lugares. Todos pintan la IA como esta categoría independiente. Pero si espero incluso dos años, y mucho menos cinco o 10, cada pieza de software que usemos tendrá IA como su corazón palpitante. No habrá código, software, aplicación, sitio web que visite, que no tenga IA como componente central. Casi lo pienso como SaaS. ¿Todas las empresas de SaaS son iguales? No. Cada empresa de SaaS tiene una base de datos, cada empresa de SaaS tiene un front-end, cada empresa de SaaS tiene alguna interacción entre los dos. AI es algo similar a una base de datos en ese sentido. Es solo una especie de bloque de construcción central en la forma en que construye software.
Estamos muy temprano en el mercado, por lo que habrá cierto movimiento y algún cambio a medida que las empresas descubran cómo usar estas herramientas y qué problemas específicos abordar. Pero no es diferente de cómo pensamos sobre la inversión SaaS tradicional desde mi perspectiva.