y dicen que varios grupos de hackers respaldados por el estado están utilizando las herramientas de IA generativa (GAI) de este último para reforzar los ciberataques. La pareja sugiere que una nueva investigación detalla por primera vez cómo los piratas informáticos vinculados a gobiernos extranjeros están haciendo uso de GAI. Los grupos en cuestión tienen vínculos con China, Rusia, Corea del Norte e Irán.
Según las empresas, los actores estatales están utilizando GAI para depurar códigos, buscar información de fuente abierta para investigar objetivos, desarrollar técnicas de ingeniería social, redactar correos electrónicos de phishing y traducir textos. OpenAI (que impulsa los productos GAI de Microsoft como) dice que cerró el acceso de los grupos a sus sistemas GAI después de descubrir que estaban usando sus herramientas.
El notorio grupo ruso Forest Blizzard (más conocido como APT 12) fue uno de los actores estatales que se dice que utilizó la plataforma OpenAI. Los piratas informáticos utilizaron herramientas OpenAI «principalmente para la investigación de código abierto sobre protocolos de comunicación por satélite y tecnología de imágenes de radar, así como para ayudar con tareas de secuencias de comandos».
Como parte de sus esfuerzos de ciberseguridad, rastrea más de 300 grupos de piratas informáticos, incluidos 160 actores de estados-nación. Compartió su conocimiento sobre ellos con OpenAI para ayudar a detectar a los piratas informáticos y cerrar sus cuentas.
OpenAI dice que invierte en recursos para identificar e interrumpir las actividades de los actores de amenazas en sus plataformas. Su personal utiliza una serie de métodos para investigar el uso de sus sistemas por parte de los piratas informáticos, como emplear sus propios modelos para seguir pistas, analizar cómo interactúan con las herramientas OpenAI y determinar sus objetivos más amplios. Una vez que detecta a estos usuarios ilícitos, OpenAI dice que interrumpe su uso de la plataforma mediante el cierre de sus cuentas, la cancelación de servicios o la minimización de su acceso a los recursos.