Está surgiendo una nueva tendencia en el espacio de la IA generativa, la IA generativa para la ciberseguridad, y Google se encuentra entre los que buscan entrar en la planta baja.
En la Conferencia RSA 2023 de hoy, Google anunció Cloud Security AI Workbench, una suite de ciberseguridad impulsada por un modelo de lenguaje de IA de «seguridad» especializado llamado Sec-PaLM. Una rama del modelo PaLM de Google, Sec-PaLM está «ajustado para casos de uso de seguridad», dice Google, incorporando inteligencia de seguridad como investigación sobre vulnerabilidades de software, malware, indicadores de amenazas y perfiles de actores de amenazas de comportamiento.
Cloud Security AI Workbench abarca una gama de nuevas herramientas impulsadas por IA, como Threat Intelligence AI de Mandiant, que aprovechará Sec-PaLM para encontrar, resumir y actuar sobre las amenazas de seguridad. (Recuerde que Google compró Mandiant en 2022 por $ 5.4 mil millones). VirusTotal, otra propiedad de Google, utilizará Sec-PaLM para ayudar a los suscriptores a analizar y explicar el comportamiento de los scripts maliciosos.
En otros lugares, Sec-PaLM ayudará a los clientes de Chronicle, el servicio de ciberseguridad en la nube de Google, a buscar eventos de seguridad e interactuar de manera «conservadora» con los resultados. Mientras tanto, los usuarios de Security Command Center AI de Google obtendrán explicaciones «legibles por humanos» de la exposición a ataques por cortesía de Sec-PaLM, incluidos los activos afectados, las mitigaciones recomendadas y los resúmenes de riesgos para los hallazgos de seguridad, cumplimiento y privacidad.
“Si bien la IA generativa ha capturado recientemente la imaginación, Sec-PaLM se basa en años de investigación fundamental de IA de Google y DeepMind, y la profunda experiencia de nuestros equipos de seguridad”, escribió Google en una publicación de blog esta mañana. “Recién comenzamos a darnos cuenta del poder de aplicar la IA generativa a la seguridad, y esperamos continuar aprovechando esta experiencia para nuestros clientes e impulsar avances en la comunidad de seguridad”.
Esas son ambiciones bastante audaces, particularmente considerando que VirusTotal Code Insight, la primera herramienta en Cloud Security AI Workbench, solo está disponible en una vista previa limitada en este momento. (Google dice que planea lanzar el resto de las ofertas a los «probadores de confianza» en los próximos meses). Francamente, no está claro qué tan bien funciona Sec-PaLM, o qué no funciona, en la práctica. Claro, las «mitigaciones recomendadas y los resúmenes de riesgos» suenan útiles, pero ¿son las sugerencias mucho mejores o más precisas porque las produjo un modelo de IA?
Después de todo, los modelos de lenguaje de IA, sin importar qué tan avanzados sean, cometen errores. Y son susceptibles a ataques como la inyección rápida, lo que puede hacer que se comporten de formas que sus creadores no pretendían.
Eso no detiene a los gigantes tecnológicos, por supuesto. En marzo, Microsoft lanzó Security Copilot, una nueva herramienta que tiene como objetivo «resumir» y «dar sentido» a la inteligencia de amenazas utilizando modelos generativos de IA de OpenAI, incluido GPT-4. En los materiales de prensa, Microsoft, similar a Google, afirmó que la IA generativa equiparía mejor a los profesionales de la seguridad para combatir las nuevas amenazas.
El jurado está muy fuera de eso. En verdad, la IA generativa para la ciberseguridad podría resultar más exagerada que cualquier otra cosa: hay escasez de estudios sobre su efectividad. Veremos los resultados muy pronto con un poco de suerte, pero mientras tanto, tome las afirmaciones de Google y Microsoft con cuidado.