Nuestros sistemas de gobierno a nivel local y estatal son pirateados y retenidos con una regularidad desalentadora. En la Conferencia Black Hat USA en Las Vegas el miércoles, la Administración Biden reveló sus planes para defender mejor la infraestructura digital crítica de la nación: está lanzando una competencia de desafío liderada por DARPA para construir sistemas de inteligencia artificial capaces de identificar y corregir proactivamente las vulnerabilidades del software. ¡Así es, vamos a tener un hackathon!
El «AI Cyber Challenge» (AIxCC) es un programa de desarrollo de dos años abierto a competidores en todo Estados Unidos. Está siendo alojado por DARPA en colaboración con Anthropic, Google, Microsoft y OpenAI. Esas empresas están proporcionando tanto su experiencia en el campo como el acceso a sus tecnologías de IA.
“El desafío es fundamental para reunir lo último en software automático, seguridad e inteligencia artificial, lo que fortalecerá nuestras defensas cibernéticas al poder explotar y corregir rápidamente las vulnerabilidades del software”, Anne Neuberger, asesora adjunta de seguridad nacional para tecnología cibernética y emergente. , dijo durante una conferencia de prensa el martes.
“Esta es una de las formas en que los sectores público y privado trabajan juntos para hacer grandes cosas para cambiar la forma en que se desarrolla el futuro”, agregó Arati Prabhakar, directora de la Oficina de Política Científica y Tecnológica de la Casa Blanca. “Es por eso que la Casa Blanca le pidió a DARPA que abordara el tema crítico de la IA para la ciberseguridad”.
Los funcionarios de la Casa Blanca reconocen que asegurar adecuadamente los extensos sistemas de software federal de la nación contra la intrusión es una tarea abrumadora. “No tienen las herramientas capaces de brindar seguridad a esta escala”, dijo Perri Adams, Gerente de Programas, Oficina de Innovación de la Información, DARPA, durante la llamada. «Hemos visto en los últimos años, piratas informáticos que explotan el estado de las cosas, lo que representa un grave riesgo para la seguridad nacional».
A pesar de esas vulnerabilidades, “creo que debemos mantenernos un paso adelante y la IA ofrece un enfoque muy prometedor para eso”, dijo Adams. Hay casi 20 millones de dólares en premios en juego. Y para asegurarse de que la competencia no esté dominada por los equipos con los bolsillos más profundos, DARPA está poniendo $7 millones a disposición de las pequeñas empresas que también quieran competir.
La agencia de investigación llevará a cabo un evento clasificatorio abierto la próxima primavera donde los equipos con mayor puntuación (hasta 20 pueden clasificar potencialmente) serán invitados a las semifinales en DEF CON 24. Esa cohorte se reducirá a los cinco mejores equipos, que ganarán premios monetarios en la competencia y ser invitado nuevamente a DEF CON 25 para la final. Los tres mejores equipos de puntuación de DC25 ganarán aún más dinero. Obtiene el primer lugar, obtiene $ 4 millones, pero para hacerlo, es mejor que su IA pueda «defender rápidamente los códigos de infraestructura crítica de los ataques», según los funcionarios de la Casa Blanca. Idealmente, el sistema resultante rastrearía las redes buscando y reparando de forma autónoma cualquier error de seguridad del software que encuentre.
También se alentará encarecidamente al equipo ganador a abrir el código de su programa resultante. La competencia trae a The Open Source Security Foundation (OpenSSF), un proyecto de Linux Foundation, como asesor del desafío. Su trabajo es ayudar a garantizar que el código se ponga en uso de inmediato, «por todos, desde desarrolladores voluntarios de código abierto hasta la industria comercial», dijo Adams. “Si tenemos éxito, espero ver que AIxCC no solo produzca la próxima generación de herramientas de ciberseguridad en este espacio, sino que muestre cómo la IA puede usarse para mejorar la sociedad al defender sus fundamentos críticos”.
“El presidente ha dejado completamente claro que tenemos que hacer que la IA sea adecuada para el pueblo estadounidense”, dijo Prabhakar. El otoño pasado, la Casa Blanca de Biden dio a conocer su Plan para una Declaración de Derechos de AI, que definió los valores y objetivos fundamentales de la Administración sobre el tema. Los esfuerzos de seguimiento incluyeron impulsar un marco de gestión de riesgos de IA e invertir $ 140 millones en el establecimiento de siete nuevos institutos nacionales de investigación para IA y aprendizaje automático. En julio, la Casa Blanca también discutió con varias empresas líderes de inteligencia artificial para que aceptaran afirmaciones (no vinculantes) de que desarrollarán sus productos de manera responsable.