Para sorpresa de nadie, los delincuentes están aprovechando los programas de inteligencia artificial generativa de código abierto para todo tipo de actos atroces, incluido el desarrollo de malware y ataques de phishing, según el FBI.
El viernes, la agencia realizó una llamada con periodistas para discutir cómo los programas de inteligencia artificial generativa, que están de moda en la industria tecnológica, también están alimentando el delito cibernético. Las actividades maliciosas van desde el uso de programas de inteligencia artificial para refinar y generar estafas hasta terroristas que consultan la tecnología para ayudarlos a desarrollar ataques químicos más potentes.
“Esperamos que con el tiempo, a medida que continúe la adopción y la democratización de los modelos de IA, estas tendencias aumentarán”, dice un alto funcionario del FBI.
El FBI no identificó los modelos específicos de IA que utilizan los delincuentes. Pero los piratas informáticos señalados oficialmente están gravitando hacia modelos gratuitos y personalizables de código abierto, junto con programas privados de inteligencia artificial desarrollados por piratas informáticos, que circulan en el inframundo de los ciberdelincuentes por una tarifa.
El funcionario agregó que los ciberdelincuentes experimentados están explotando la tecnología de IA para desarrollar nuevos ataques de malware y mejores métodos de entrega para ellos, incluido el uso de sitios web generados por IA como páginas de phishing que secretamente pueden entregar códigos de computadora maliciosos. La misma tecnología está ayudando a los piratas informáticos a desarrollar malware polimórfico, que puede evadir el software antivirus.
El mes pasado, el FBI también advirtió que los estafadores están utilizando generadores de imágenes de IA para crear falsificaciones profundas de las víctimas con temas sexuales en un esfuerzo por extorsionarlas. La escala exacta de estos diversos esquemas impulsados por IA sigue sin estar clara. Pero en la llamada de hoy, el agente del FBI agregó que la mayor parte de los casos que la agencia está viendo involucran a actores criminales que usan modelos de IA para reforzar sus esquemas tradicionales. Esto incluye intentos de defraudar a seres queridos o ancianos con llamadas telefónicas fraudulentas utilizando tecnología de clonación de voz de IA.
Recomendado por Nuestros Editores
En respuesta, el FBI dice que ha tenido conversaciones productivas con las empresas de IA para abordar el problema, como el uso de un sistema de «marcas de agua» para que sea más fácil para cualquier persona identificar contenido e imágenes generados por IA.
“Vemos esto como una prioridad nacional”, agregó el alto funcionario al hablar sobre la amenaza de la IA. “Este es un desarrollo más reciente que está afectando todos los programas del FBI”.
¿Te gusta lo que estás leyendo?
Matricularse en Vigilancia de la seguridad boletín de noticias para nuestras principales historias de privacidad y seguridad directamente en su bandeja de entrada.
Este boletín puede contener publicidad, ofertas o enlaces de afiliados. Suscribirse a un boletín informativo indica su consentimiento a nuestros Términos de uso y Política de privacidad. Puede darse de baja de los boletines en cualquier momento.