\n<\/p>\n
En mayo, el Sputnik<\/span> International, un medio de comunicaci\u00f3n estatal ruso, public\u00f3 una serie de tuits criticando la pol\u00edtica exterior de Estados Unidos y atacando a la administraci\u00f3n Biden. Cada uno de ellos provoc\u00f3 una refutaci\u00f3n breve pero bien elaborada de una cuenta llamada CounterCloud, que a veces inclu\u00eda un enlace a una noticia relevante o un art\u00edculo de opini\u00f3n. Gener\u00f3 respuestas similares a los tuits de la embajada rusa y de los medios de comunicaci\u00f3n chinos que criticaban a Estados Unidos.<\/p>\n Las cr\u00edticas rusas a Estados Unidos est\u00e1n lejos de ser inusuales, pero el material de CounterCloud lo fue: los tweets, los art\u00edculos e incluso los periodistas y sitios de noticias fueron creados enteramente por algoritmos de inteligencia artificial, seg\u00fan la persona detr\u00e1s del proyecto, que se hace llamar llama Nea Paw y dice que est\u00e1 dise\u00f1ado para resaltar el peligro de la desinformaci\u00f3n de IA producida en masa. Paw no public\u00f3 p\u00fablicamente los tweets y art\u00edculos de CounterCloud, pero los proporcion\u00f3 a WIRED y tambi\u00e9n produjo un video que describe el proyecto.<\/p>\n Paw afirma ser un profesional de la ciberseguridad que prefiere el anonimato porque algunas personas pueden creer que el proyecto es irresponsable. La campa\u00f1a CounterCloud que rechaza la mensajer\u00eda rusa se cre\u00f3 utilizando la tecnolog\u00eda de generaci\u00f3n de texto de OpenAI, como la que est\u00e1 detr\u00e1s de ChatGPT, y otras herramientas de inteligencia artificial de f\u00e1cil acceso para generar fotograf\u00edas e ilustraciones, dice Paw, por un costo total de alrededor de $400.<\/p>\n Paw dice que el proyecto muestra que las herramientas de IA generativa ampliamente disponibles hacen que sea mucho m\u00e1s f\u00e1cil crear campa\u00f1as de informaci\u00f3n sofisticadas que impulsen la propaganda respaldada por el Estado.<\/p>\n \u00abNo creo que exista una soluci\u00f3n m\u00e1gica para esto, de la misma manera que no existe una soluci\u00f3n m\u00e1gica para los ataques de phishing, spam o ingenier\u00eda social\u00bb, dice Paw en un correo electr\u00f3nico. Son posibles mitigaciones, como educar a los usuarios para que est\u00e9n atentos al contenido manipulador generado por IA, hacer que los sistemas de IA generativa intenten bloquear el uso indebido o equipar los navegadores con herramientas de detecci\u00f3n de IA. \u00abPero creo que ninguna de estas cosas es realmente elegante, barata o particularmente efectiva\u00bb, dice Paw.<\/p>\n En los \u00faltimos a\u00f1os, los investigadores de desinformaci\u00f3n han advertido que los modelos de lenguaje de IA podr\u00edan usarse para elaborar campa\u00f1as de propaganda altamente personalizadas y para impulsar cuentas de redes sociales que interact\u00faan con los usuarios de maneras sofisticadas.<\/p>\n Renee DiResta, gerente de investigaci\u00f3n t\u00e9cnica del Observatorio de Internet de Stanford, que rastrea campa\u00f1as de informaci\u00f3n, dice que los art\u00edculos y perfiles de periodistas generados como parte del proyecto CounterCloud son bastante convincentes.<\/p>\n \u00abAdem\u00e1s de los actores gubernamentales, las agencias de gesti\u00f3n de redes sociales y los mercenarios que ofrecen servicios de operaciones de influencia sin duda tomar\u00e1n estas herramientas y las incorporar\u00e1n a sus flujos de trabajo\u00bb, dice DiResta. Lograr que el contenido falso se distribuya y comparta ampliamente es un desaf\u00edo, pero esto se puede lograr pagando a usuarios influyentes para que lo compartan, agrega.<\/p>\n Ya ha surgido cierta evidencia de campa\u00f1as de desinformaci\u00f3n en l\u00ednea impulsadas por IA. Investigadores acad\u00e9micos descubrieron recientemente una burda botnet que impulsa criptomonedas aparentemente impulsada por ChatGPT. El equipo dijo que el descubrimiento sugiere que la IA detr\u00e1s del chatbot probablemente ya se est\u00e9 utilizando para campa\u00f1as de informaci\u00f3n m\u00e1s sofisticadas.<\/p>\n Las campa\u00f1as pol\u00edticas leg\u00edtimas tambi\u00e9n han recurrido al uso de la IA antes de las elecciones presidenciales estadounidenses de 2024. En abril, el Comit\u00e9 Nacional Republicano produjo un v\u00eddeo atacando a Joe Biden que inclu\u00eda im\u00e1genes falsas generadas por IA. Y en junio, una cuenta de redes sociales asociada con Ron Desantis incluy\u00f3 im\u00e1genes generadas por IA en un video<\/a> destinado a desacreditar a Donald Trump. La Comisi\u00f3n Federal Electoral ha dicho que puede limitar el uso de deepfakes en anuncios pol\u00edticos.<\/p>\n<\/div>\n