Una de las plataformas de desarrollo de inteligencia artificial y aprendizaje automático más prolíficas, Weights & Biases, ha asegurado un nuevo tramo de efectivo del ex director ejecutivo de GitHub, Nat Friedman, y el ex socio de Y Combinator, Daniel Gross.
Friedman y Gross, junto con los inversores existentes Coatue, Insight Partners, Felicis, Bond, BloombergBeta y Sapphire, han invertido 50 millones de dólares en Weights & Biases en una ronda estratégica que valora a la empresa en 1250 millones de dólares. La inversión, que eleva el total recaudado de la startup a $ 250 millones, se produce cuando Weights & Biases se prepara para lanzar Prompts, un nuevo producto diseñado para ayudar a los usuarios a monitorear y evaluar el rendimiento de modelos de lenguaje extenso (LLM) en la línea de GPT-4 de OpenAI.
La inversión de 50 millones de dólares es mucho menor que la inversión anterior de Weights & Biases, su Serie C, que llegó a alrededor de 135 millones de dólares. Pero Lavanya Shukla, vicepresidente de crecimiento de Weights & Biases, lo describió como oportunista.
“Creemos que dar a los empleados herramientas de aprendizaje automático debería ser una apuesta segura para los CTO y sus equipos”, dijo a TechCrunch en una entrevista por correo electrónico. “Al abordar las pruebas, la seguridad y la confiabilidad, Weights & Biases se encuentra en un punto crítico a lo largo del desarrollo de un modelo exitoso de aprendizaje automático”.
Lukas Biewald y Chris Van Pelt cofundaron Weights & Biases en 2017, después de pasar años trabajando en herramientas para ingenieros de aprendizaje automático y científicos de datos. Los dos lanzaron anteriormente Figure Eight, anteriormente conocido como CrowdFlower, para reclutar trabajadores colaborativos para etiquetar datos de entrenamiento para algoritmos de aprendizaje automático. (La Figura Ocho fue adquirida por Appen en 2019 por $ 175 millones).
“Los dos identificaron un problema mayor: que los profesionales del aprendizaje automático no tenían un gran sistema de registro para sus experimentos”, dijo Shukla. “Esta ciencia altamente experimental pero crucial se registraba en hojas de cálculo y capturas de pantalla degradadas”.
Entonces Biewald y Van Pelt unieron fuerzas con un tercer cofundador, un ex alumno de Google y desarrollador Shawn Lewis, en un intento de resolver ese problema. En el transcurso de los siguientes años, crearon el MVP para Pesos y sesgos: flujos de trabajo para respaldar el ciclo de vida de desarrollo de aprendizaje automático.
Weights & Biases ocupa una categoría de plataformas conocidas como MLOps u operaciones de aprendizaje automático, que permiten a los científicos de datos crear nuevos modelos de aprendizaje automático y ejecutarlos a través de flujos de trabajo automatizados y repetibles que los implementan en producción. A medida que ha crecido la demanda de IA, también lo ha hecho la demanda de plataformas MLOps. Allied Market Research estima que el segmento MLOps tendrá un valor de $ 23.1 mil millones para 2023.
Las nuevas plataformas MLOps emergen regularmente. Por nombrar algunos, están Seldon, FedML, Qwak, Galileo, Striveworks, Arize, Comet y Tecton. Eso es ignorar las ofertas de titulares como Azure, AWS y Google Cloud.
Pero lo que diferencia a Weights & Biases es su enfoque de MLOps, afirma Shukla.
Primero, todos los productos de Weights & Biases fueron diseñados conjuntamente con socios y clientes en un esfuerzo por garantizar que satisfagan las necesidades de esos socios y clientes, dice Shukla. En segundo lugar, la plataforma pone énfasis en las herramientas para interrogar los conjuntos de datos utilizados para entrenar modelos, lo que permite a los clientes verificar los problemas que puedan surgir, como sesgos y la presencia de información de identificación personal, idealmente antes de que esos conjuntos de datos entren en producción.
Plataforma de monitoreo de pesos y sesgos para operaciones de aprendizaje automático. Créditos de imagen: Pesos y sesgos
“Weights & Biases es la plataforma de aprendizaje automático líder para ayudar a los desarrolladores a construir mejores modelos más rápido”, dijo Shukla. “Creamos herramientas livianas e interoperables para rastrear rápidamente experimentos, crear versiones e iterar conjuntos de datos, evaluar el rendimiento del modelo, reproducir modelos, visualizar resultados y detectar regresiones, y compartir hallazgos con colegas. Esto permite a los ingenieros de aprendizaje automático iterar rápidamente en sus canalizaciones de aprendizaje automático con la confianza de que sus conjuntos de datos y modelos se rastrean y controlan en un sistema de registro confiable”.
Cualesquiera que sean las otras ventajas que tiene Pesos y sesgos, es casi seguro que el primero en actuar es una de ellas.
La solución de la plataforma está integrada en más de 20 000 repositorios de código abierto, afirma Shukla, y Weights & Biases ha sido citado en cientos de artículos académicos de investigación sobre aprendizaje automático. También es el conjunto de herramientas elegido por los constructores de modelos de IA generativos bien financiados y de alto perfil, incluidos OpenAI, Aleph Alpha, Cohere, Anthropic y Hugging Face.
“OpenAI entrena todos los modelos en pesos y sesgos. Con cientos de empleados ejecutando miles de experimentos, es fundamental que OpenAI tenga una forma de probar, identificar problemas y depurar sus modelos rápidamente”, dijo Shukla. “OpenAI también tiene que hacer muchas ejecuciones de entrenamiento en pequeños subconjuntos de sus datos. Gracias a Weights & Biases, pudieron entrenar GPT-4 más rápido”.
Más allá de la cohorte de IA generativa, Weights & Biases tiene 700 000 usuarios (frente a los 100 000 de 2021) y más de 1000 usuarios de pago. Mientras tanto, su equipo ha crecido a más de 200 personas, la mayoría con sede en su sede en San Francisco.
Weights & Biases tiene como objetivo hacer crecer aún más esa base de clientes con Prompts, su nuevo producto aludido, que permite a los usuarios consultar los resultados de un LLM y ajustar los propios LLM.
“Los LLM pueden reducir la cantidad de personas que necesita para entrenar modelos, pero aumentarán la cantidad de personas que las empresas necesitan para ajustar, interactuar y crear aplicaciones con esos modelos”, dijo Shukla. “El objetivo de Prompts también es servir a una nueva clase de usuarios y cambiar la forma en que los grandes laboratorios crean modelos de aprendizaje automático. Además de los ingenieros y afinadores rápidos, los investigadores y las empresas que construyen modelos internos únicos tendrán más herramientas para mejorar sus modelos”.
En cuanto a Weights & Biases, tendrá una razón para continuar desarrollando su suite MLOps.