Palantir ya vende sus servicios de vigilancia nacional al Servicio de Inmigración y Control de Aduanas de EE. UU., por lo que no debería sorprender que la empresa fundada por el multimillonario Peter Thiel también esté trabajando para incursionar en el Pentágono. El martes, la compañía lanzó un video de demostración de su última oferta, Palantir Artificial Intelligence Platform (AIP). Si bien el sistema en sí está diseñado simplemente para integrar modelos de lenguaje grande (LLM) como GPT-4 de OpenAI o BERT de Google en redes operadas de forma privada, lo primero que hicieron fue aplicarlo al campo de batalla moderno.
En la demostración de video anterior, un operador militar encargado de monitorear el teatro de operaciones de Europa del Este descubre que las fuerzas enemigas se concentran cerca de la frontera y responde pidiéndole ayuda a un asistente digital estilo ChatGPT para desplegar drones de reconocimiento, generar respuestas tácticas a la agresión percibida e incluso organizar la interferencia de las comunicaciones del enemigo. El AIP se muestra ayudando a estimar la composición y las capacidades del enemigo mediante el lanzamiento de un dron Reaper en una misión de reconocimiento en respuesta a la solicitud del operador de obtener mejores imágenes y sugiriendo respuestas apropiadas dado el descubrimiento de un elemento blindado.
“Los LLM y los algoritmos deben controlarse en este contexto altamente regulado y sensible para garantizar que se usen de manera legal y ética”, comienza el video. Para hacerlo, la operación de AIP se basa en tres «pilares clave», siendo el primero que AIP se implementará en un sistema clasificado, capaz de analizar en tiempo real datos clasificados y no clasificados, de manera ética y legal. La compañía no dio más detalles sobre cómo funcionaría eso. El segundo pilar es que los usuarios podrán alternar el alcance y las acciones de cada LLM y activo en la red. El propio AIP generará un registro digital seguro de toda la operación, «crucial para mitigar riesgos legales, regulatorios y éticos significativos en entornos confidenciales y clasificados», según la demostración. El tercer pilar son las «barreras de seguridad líderes en la industria» de AIP para evitar que el sistema realice acciones no autorizadas.
En el escenario de Palantir existe un «humano en el circuito» para evitar tales acciones, aunque a partir del video, el «operador» parece hacer poco más que asentir con la cabeza junto con lo que sugiera AIP. La demostración tampoco explicó qué pasos se están tomando para evitar que los LLM en los que se basa el sistema «alucinen» hechos y detalles pertinentes.