\n<\/p>\n
en la RSA<\/span> conferencia de seguridad en San Francisco esta semana, ha habido una sensaci\u00f3n de inevitabilidad en el aire. En charlas y paneles en el extenso centro de convenciones Moscone, en cada stand de proveedores en el piso de exhibici\u00f3n y en conversaciones informales en los pasillos, simplemente sabe que alguien va a mencionar la IA generativa y su impacto potencial en la seguridad digital y la pirater\u00eda maliciosa. . El director de ciberseguridad de la NSA, Rob Joyce, tambi\u00e9n lo ha sentido. <\/p>\n \u201cNo se puede andar por RSA sin hablar de IA y malware\u201d, dijo el mi\u00e9rcoles por la tarde durante su presentaci\u00f3n ahora anual \u201cState of the Hack\u201d. \u201cCreo que todos hemos visto la explosi\u00f3n. No dir\u00e9 que se haya entregado todav\u00eda, pero esta es realmente una tecnolog\u00eda que cambia el juego\u00bb.<\/p>\n En los \u00faltimos meses, los chatbots impulsados \u200b\u200bpor grandes modelos de lenguaje, como ChatGPT de OpenAI, han hecho que a\u00f1os de desarrollo e investigaci\u00f3n de aprendizaje autom\u00e1tico se sientan m\u00e1s concretos y accesibles para personas de todo el mundo. Pero hay preguntas pr\u00e1cticas sobre c\u00f3mo los malos actores manipular\u00e1n y abusar\u00e1n de estas herramientas novedosas para desarrollar y propagar malware, impulsar la creaci\u00f3n de informaci\u00f3n err\u00f3nea y contenido no aut\u00e9ntico, y expandir las habilidades de los atacantes para automatizar sus ataques. Al mismo tiempo, la comunidad de seguridad est\u00e1 ansiosa por aprovechar la IA generativa para defender los sistemas y obtener una ventaja de protecci\u00f3n. En estos primeros d\u00edas, sin embargo, es dif\u00edcil desglosar exactamente lo que suceder\u00e1 a continuaci\u00f3n.<\/p>\n Joyce dijo que la Agencia de Seguridad Nacional espera que la IA generativa impulse estafas ya efectivas como el phishing. Dichos ataques se basan en contenido convincente y convincente para enga\u00f1ar a las v\u00edctimas para que ayuden a los atacantes sin darse cuenta, por lo que la IA generativa tiene usos obvios para crear r\u00e1pidamente comunicaciones y materiales personalizados.<\/p>\n \u201cEse hacker nativo de Rusia que no habla bien ingl\u00e9s ya no va a crear un correo electr\u00f3nico de mierda para sus empleados\u201d, dijo Joyce. \u201cVa a ser el idioma nativo en ingl\u00e9s, va a tener sentido, va a pasar la prueba del olfato… Entonces eso es lo que est\u00e1 aqu\u00ed hoy, y estamos viendo adversarios, tanto del estado-naci\u00f3n como criminales, comenzando a experimentar con el Generaci\u00f3n de tipo ChatGPT para brindarles oportunidades en el idioma ingl\u00e9s\u201d.<\/p>\n Mientras tanto, aunque es posible que los chatbots de IA no puedan desarrollar malware novedoso perfectamente armado desde cero, Joyce se\u00f1al\u00f3 que los atacantes pueden usar las habilidades de codificaci\u00f3n que tienen las plataformas para realizar cambios m\u00e1s peque\u00f1os que podr\u00edan tener un gran efecto. La idea ser\u00eda modificar el malware existente con IA generativa para cambiar sus caracter\u00edsticas y comportamiento lo suficiente como para que las herramientas de escaneo como el software antivirus no reconozcan y marquen la nueva iteraci\u00f3n.<\/p>\n \u201cVa a ayudar a reescribir el c\u00f3digo y hacerlo de manera que cambie la firma y sus atributos\u201d, dijo Joyce. \u00abEso [is] va a ser un desaf\u00edo para nosotros en el corto plazo\u201d.<\/p>\n En t\u00e9rminos de defensa, Joyce parec\u00eda tener esperanzas sobre el potencial de la IA generativa para ayudar en el an\u00e1lisis y la automatizaci\u00f3n de big data. Cit\u00f3 tres \u00e1reas en las que la tecnolog\u00eda est\u00e1 \u00abmostrando una promesa real\u00bb como un \u00abacelerador para la defensa\u00bb: escanear registros digitales, encontrar patrones en la explotaci\u00f3n de vulnerabilidades y ayudar a las organizaciones a priorizar los problemas de seguridad. Sin embargo, advirti\u00f3 que antes de que los defensores y las comunidades lleguen a depender de estas herramientas en la vida diaria, primero deben estudiar c\u00f3mo se pueden manipular y explotar los sistemas generativos de IA.<\/p>\n Principalmente, Joyce enfatiz\u00f3 la naturaleza turbia e impredecible del momento actual para la IA y la seguridad, y advirti\u00f3 a la comunidad de seguridad que se \u00ababroche el cintur\u00f3n\u00bb para lo que probablemente vendr\u00e1.<\/p>\n \u201cNo espero alguna capacidad t\u00e9cnica m\u00e1gica generada por IA que explote todas las cosas\u201d, dijo. Pero \u00abel pr\u00f3ximo a\u00f1o, si estamos aqu\u00ed hablando de un a\u00f1o similar en revisi\u00f3n, creo que tendremos un mont\u00f3n de ejemplos de d\u00f3nde se ha armado, d\u00f3nde se ha usado y d\u00f3nde ha tenido \u00e9xito\u00bb.<\/p>\n<\/div>\n