Numbers Station, una startup que utiliza grandes modelos de lenguaje (LLM) para impulsar su plataforma de análisis de datos, lanza hoy su primer producto basado en la nube: el acertadamente llamado Numbers Station Cloud, que ahora se encuentra en acceso temprano. Con este servicio, prácticamente cualquier usuario de una empresa puede analizar sus datos internos utilizando la interfaz de chat de Numbers Station.
Varias herramientas similares se centran en traducir consultas en lenguaje natural a un lenguaje de base de datos como SQL. Sin embargo, el equipo de Numbers Station sostiene que este enfoque tiene limitaciones, en parte porque el LLM genérico no comprende cómo opera una empresa determinada, cómo estructura sus datos y cómo las personas dentro de la empresa se refieren a objetos de datos específicos.
Créditos de imagen: Estación de números
Como me dijo el cofundador y director ejecutivo de Numbers Station, Chris Aberger, está algo cansado de hablar de cómo el servicio permite a los usuarios «chatear con sus datos», porque hay mucho ruido en torno a eso. «Pero el nivel más alto de los ejecutivos de negocios, usuarios no técnicos, que tienen preguntas que quieren hacer y luego obtienen respuestas a través de estas fuentes de datos estructuradas clásicas, es realmente a donde nos han llevado las cosas», me dijo. «Hay mucho modelado de datos, datos en torno a estos modelos básicos y grandes modelos de lenguaje para hacerlos funcionar».
Para Numbers Station, esto ha significado gastar muchos recursos de ingeniería en la construcción de lo que la empresa llama su catálogo semántico. Ese catálogo es esencialmente una fuente seleccionada automáticamente de las métricas y definiciones de una empresa. Ese catálogo es específico de cada empresa (y no compartido entre ellas). Aberger describió el catálogo como “algo bestial” que, por ejemplo, garantiza que la definición del modelo de “ingresos recurrentes” esté alineada con el uso que la empresa hace de ese término.
Si bien la plataforma de Numbers Station se asienta sobre un conjunto de LLM y modelos de aprendizaje automático muy especializados, es este catálogo el que lo mantiene todo junto. Como me dijo la cofundadora y científica jefe de Numbers Station, Ines Chami, el equipo había subestimado originalmente el desafío de construir esa parte de la plataforma.
“Se remonta a lo clásico. [machine learning] e ingeniería de datos clásica: ¿Cómo creo una representación del conocimiento que el modelo realmente pueda usar para responder esas preguntas?”, me dijo. «Porque no hay forma de que un modelo comprenda todas esas métricas, todas esas cosas que preguntan los usuarios empresariales». Después de todo, ni siquiera los humanos comprenden todas las preguntas de inmediato, y el modelo tiene que convertir esas preguntas vagas en consultas muy concretas. La investigación de Numbers Stations muestra que su enfoque da como resultado una precisión significativamente mejorada en comparación con las canalizaciones de texto a SQL más tradicionales.
Créditos de imagen: Estación de números
Si bien la empresa lanza hoy este servicio de chat, la visión general es significativamente mayor.
«Lo que estamos haciendo, fundamentalmente, es construir una plataforma de inteligencia artificial para análisis», dijo Aberger. “Esta es una de las aplicaciones […]. Hay un juego más grande y más amplio en el que todavía estamos trabajando como empresa, que se ocupa de una serie de problemas de datos diferentes que se encuentran aquí, ejemplos de los cuales son: ¿Cómo puedo enriquecer mis datos con datos de terceros? ¿fuentes? ¿Cómo hago algunos de estos algoritmos más clásicos como la coincidencia difusa, etc.? Hay casi una cantidad infinita de radios sobre los que puedes construir en esta plataforma”.
La compañía ya ha inscrito a varios clientes de Fortune 500, incluida la firma global de servicios inmobiliarios Jones Lang LaSalle. «Numbers Station está a la vanguardia de la IA empresarial para datos estructurados», dijo Sharad Rastogi, director ejecutivo de Work Dynamics Technology de Jones Lang LaSalle. “Estamos impresionados por la plataforma atractiva y confiable de Numbers Station. Aprende continuamente a medida que lo usamos, lo que permite a nuestros equipos de datos descubrir y verificar hipótesis para generar resultados comerciales impactantes”.