\n
En una llamada con periodistas este viernes, el FBI emiti\u00f3 un claro recordatorio, y advertencia, sobre la proliferaci\u00f3n de ataques cibern\u00e9ticos con la ayuda de programas de IA. Seg\u00fan el organismo gubernamental, la cantidad de personas convertidas en desviados que usan tecnolog\u00eda de inteligencia artificial como parte de ataques de phishing o desarrollo de malware ha aumentado a un ritmo alarmante, y el impacto de sus operaciones solo est\u00e1 aumentando.<\/p>\n
Hemos cubierto informes de c\u00f3mo incluso los modelos de IA bloqueados, como ChatGPT, se han utilizado para desarrollar malware que es experto en evadir incluso los sistemas de seguridad m\u00e1s recientes. El malware polim\u00f3rfico, como se le conoce, es una pieza de software que sol\u00eda requerir un codificador de sombrero negro altamente calificado (o un grupo de codificadores) para lograrlo; ahora, se ha democratizado hacia una ventana de contexto.<\/p>\n\n\u00abEsperamos que con el tiempo, a medida que contin\u00fae la adopci\u00f3n y democratizaci\u00f3n de los modelos de IA, estas tendencias aumentar\u00e1n\u00bb.<\/em> dijo un alto funcionario del FBI.<\/p>\nPero m\u00e1s all\u00e1 de los jardines amurallados de ChatGPT de Open AI y Claude 2 de Anthropic, el mundo de la IA de c\u00f3digo abierto es el foco de atenci\u00f3n de las agencias de aplicaci\u00f3n de la ley. Ese es el mundo en el que puede obtener un modelo base de su elecci\u00f3n (el ejemplo m\u00e1s reciente es el Llama 2 de c\u00f3digo abierto de Meta) y entrenarlo con la documentaci\u00f3n que desee, para ajustarlo a sus necesidades espec\u00edficas. <\/p>\n
Esas necesidades pueden variar desde un clon de ChatGPT autodestructivo y humor\u00edstico empe\u00f1ado en dominar el mundo (como es el caso de BratGPT); tomar un desv\u00edo a trav\u00e9s de DarkWeb y su subcultura ling\u00fc\u00edstica (como hicieron los investigadores con DarkBert); y finalmente aterrizar en las costas de las ofertas basadas en suscripci\u00f3n como WormGPT. <\/p>\n
Este \u00faltimo se siente como un problema particularmente espinoso: los posibles piratas inform\u00e1ticos ahora pueden acceder a los servicios de un clon de ChatGPT basado en suscripci\u00f3n y enfocado en black-hat. No existe un entorno m\u00e1s conveniente para que alguien lance un ataque de phishing remoto. <\/p>\n
Con estas herramientas, el atacante puede automatizar f\u00e1cilmente la creaci\u00f3n de toda la p\u00e1gina web, la cadena de respuesta de correo electr\u00f3nico de ida y vuelta y pr\u00e1cticamente todo el trabajo relacionado con el proceso. O, nuevamente, codifique malware polim\u00f3rfico que sea experto en evadir las capacidades actuales de ciberseguridad, y la defensa ya est\u00e1 en desventaja. No es necesario agregar AI en la parte superior. Quiz\u00e1s sabiamente, el FBI no identific\u00f3 qu\u00e9 modelos espec\u00edficos de IA de c\u00f3digo abierto se est\u00e1n explotando durante la llamada, pero el mero reconocimiento de que hay un problema es suficiente.<\/p>\n
El FBI tambi\u00e9n enfatiz\u00f3 las preocupaciones de seguridad en torno a la proliferaci\u00f3n de tecnolog\u00eda de IA generativa que puede ser demandada en el campo de las falsificaciones profundas: contenido generado por IA que nunca sucedi\u00f3 en la realidad. Es dif\u00edcil subestimar lo peligrosa que puede llegar a ser una conferencia de prensa falsificada y no verificable digitalmente en el mundo en el que vivimos. Este problema conduce directamente al enigma de separar los datos sint\u00e9ticos (generados o manejados por una red de IA) de los datos emergentes. (los datos que surgen naturalmente del registro de la actividad humana). <\/p>\n
Varios gigantes de la IA, incluidos OpenAI, Microsoft, Google y Meta, se comprometieron recientemente en la Casa Blanca a introducir dicha tecnolog\u00eda de marca de agua, que tambi\u00e9n les beneficia en la inevitable carrera por reducir los costos de capacitaci\u00f3n (de la cual el principal candidato es lo que se conoce como entrenamiento recursivo). Pero solo esta semana, OpenAI cerr\u00f3 su herramienta AI Classifier, cuyo objetivo era solo identificar dichos datos sint\u00e9ticos. Pero debido a su mera tasa de \u00e9xito del 26 %, podr\u00eda haber sido mejor que OpenAI lo cerrara.<\/p>\n
La proliferaci\u00f3n de tecnolog\u00eda de inteligencia artificial generativa de fuente abierta y adaptada de forma privada es una certeza, como sugieren los ejemplos vinculados en esta p\u00e1gina. El momento de contenerlos desapareci\u00f3 desde el momento en que se volvieron de c\u00f3digo abierto; y con el tiempo, un mejor hardware y t\u00e9cnicas permitir\u00e1n que cualquier persona con un modelo privado de IA lo mejore.<\/p>\n
Como cualquier cosa, el uso de la IA variar\u00e1, desde las cosas que le importan al FBI hasta la creaci\u00f3n de nuevos negocios debido a la facilidad de la automatizaci\u00f3n para crear aventuras completas en juegos como Cyberpunk 2077. Tendremos que verlo a medida que avanza.<\/p>\n<\/div>\n
Source link-41<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"En una llamada con periodistas este viernes, el FBI emiti\u00f3 un claro recordatorio, y advertencia, sobre la proliferaci\u00f3n de ataques cibern\u00e9ticos con la ayuda de programas de IA. Seg\u00fan el…<\/p>\n","protected":false},"author":1,"featured_media":751514,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21980],"tags":[208,12070,9610,80856,9844,8,9151],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/751513"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=751513"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/751513\/revisions"}],"predecessor-version":[{"id":751515,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/751513\/revisions\/751515"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/751514"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=751513"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=751513"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=751513"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}