\n<\/p>\n
Est\u00e1 surgiendo una nueva tendencia en el espacio de la IA generativa, la IA generativa para la ciberseguridad, y Google se encuentra entre los que buscan entrar en la planta baja.<\/p>\n
En la Conferencia RSA 2023 de hoy, Google anunci\u00f3 Cloud Security AI Workbench, una suite de ciberseguridad impulsada por un modelo de lenguaje de IA de \u00abseguridad\u00bb especializado llamado Sec-PaLM. Una rama del modelo PaLM de Google, Sec-PaLM est\u00e1 \u00abajustado para casos de uso de seguridad\u00bb, dice Google, incorporando inteligencia de seguridad como investigaci\u00f3n sobre vulnerabilidades de software, malware, indicadores de amenazas y perfiles de actores de amenazas de comportamiento.<\/p>\n
Cloud Security AI Workbench abarca una gama de nuevas herramientas impulsadas por IA, como Threat Intelligence AI de Mandiant, que aprovechar\u00e1 Sec-PaLM para encontrar, resumir y actuar sobre las amenazas de seguridad. (Recuerde que Google compr\u00f3 Mandiant en 2022 por $ 5.4 mil millones). VirusTotal, otra propiedad de Google, utilizar\u00e1 Sec-PaLM para ayudar a los suscriptores a analizar y explicar el comportamiento de los scripts maliciosos.<\/p>\n
En otros lugares, Sec-PaLM ayudar\u00e1 a los clientes de Chronicle, el servicio de ciberseguridad en la nube de Google, a buscar eventos de seguridad e interactuar de manera \u00abconservadora\u00bb con los resultados. Mientras tanto, los usuarios de Security Command Center AI de Google obtendr\u00e1n explicaciones \u00ablegibles por humanos\u00bb de la exposici\u00f3n a ataques por cortes\u00eda de Sec-PaLM, incluidos los activos afectados, las mitigaciones recomendadas y los res\u00famenes de riesgos para los hallazgos de seguridad, cumplimiento y privacidad.<\/p>\n
\u201cSi bien la IA generativa ha capturado recientemente la imaginaci\u00f3n, Sec-PaLM se basa en a\u00f1os de investigaci\u00f3n fundamental de IA de Google y DeepMind, y la profunda experiencia de nuestros equipos de seguridad\u201d, escribi\u00f3 Google en una publicaci\u00f3n de blog esta ma\u00f1ana. \u201cReci\u00e9n comenzamos a darnos cuenta del poder de aplicar la IA generativa a la seguridad, y esperamos continuar aprovechando esta experiencia para nuestros clientes e impulsar avances en la comunidad de seguridad\u201d.<\/p>\n
Esas son ambiciones bastante audaces, particularmente considerando que VirusTotal Code Insight, la primera herramienta en Cloud Security AI Workbench, solo est\u00e1 disponible en una vista previa limitada en este momento. (Google dice que planea lanzar el resto de las ofertas a los \u00abprobadores de confianza\u00bb en los pr\u00f3ximos meses). Francamente, no est\u00e1 claro qu\u00e9 tan bien funciona Sec-PaLM, o qu\u00e9 no funciona, en la pr\u00e1ctica. Claro, las \u00abmitigaciones recomendadas y los res\u00famenes de riesgos\u00bb suenan \u00fatiles, pero \u00bfson las sugerencias mucho mejores o m\u00e1s precisas porque las produjo un modelo de IA?<\/p>\n
Despu\u00e9s de todo, los modelos de lenguaje de IA, sin importar qu\u00e9 tan avanzados sean, cometen errores. Y son susceptibles a ataques como la inyecci\u00f3n r\u00e1pida, lo que puede hacer que se comporten de formas que sus creadores no pretend\u00edan.<\/p>\n
Eso no detiene a los gigantes tecnol\u00f3gicos, por supuesto. En marzo, Microsoft lanz\u00f3 Security Copilot, una nueva herramienta que tiene como objetivo \u00abresumir\u00bb y \u00abdar sentido\u00bb a la inteligencia de amenazas utilizando modelos generativos de IA de OpenAI, incluido GPT-4. En los materiales de prensa, Microsoft, similar a Google, afirm\u00f3 que la IA generativa equipar\u00eda mejor a los profesionales de la seguridad para combatir las nuevas amenazas.<\/p>\n
El jurado est\u00e1 muy fuera de eso. En verdad, la IA generativa para la ciberseguridad podr\u00eda resultar m\u00e1s exagerada que cualquier otra cosa: hay escasez de estudios sobre su efectividad. Veremos los resultados muy pronto con un poco de suerte, pero mientras tanto, tome las afirmaciones de Google y Microsoft con cuidado.<\/p>\n<\/p><\/div>\n