Los gobiernos de todo el El mundo se apresura a adoptar los algoritmos que infundieron algo parecido a inteligencia en ChatGPT, aparentemente cautivados por la enorme recompensa económica que se espera de la tecnología.
Dos nuevos informes publicados esta semana muestran que es probable que los Estados-nación también se apresuren a adaptar la misma tecnología a armas de desinformación, en lo que podría convertirse en una preocupante carrera armamentista de inteligencia artificial entre grandes potencias.
Los investigadores de RAND, un grupo de expertos sin fines de lucro que asesora al gobierno de Estados Unidos, señalan la evidencia de que un investigador militar chino que tiene experiencia en campañas de información discute públicamente cómo la IA generativa podría ayudar a dicho trabajo. Un artículo de investigación, de enero de 2023, sugiere utilizar modelos de lenguaje grandes, como una versión mejorada de BERT de Google, un precursor de los modelos de lenguaje más potentes y capaces que impulsan los chatbots como ChatGPT.
«No hay evidencia de que esto se esté haciendo en este momento», dice William Marcellino, experto en inteligencia artificial y científico social y del comportamiento de RAND, quien contribuyó al informe. “Más bien alguien dice: ‘Aquí hay un camino a seguir’”. Él y otros en RAND están alarmados ante la perspectiva de que las campañas de influencia adquieran nueva escala y poder gracias a la IA generativa. «Crear un sistema para crear millones de cuentas falsas que pretenden ser taiwanesas, estadounidenses o alemanas, que están impulsando una narrativa estatal, creo que es cualitativa y cuantitativamente diferente», dice Marcellino.
Las campañas de información en línea, como la que llevó a cabo la Agencia de Investigación de Internet de Rusia para socavar las elecciones estadounidenses de 2016, existen desde hace años. Han dependido principalmente del trabajo manual: trabajadores humanos trabajando duro frente a los teclados. Pero los algoritmos de IA desarrollados en los últimos años podrían producir en masa textos, imágenes y vídeos diseñados para engañar o persuadir, o incluso llevar a cabo interacciones convincentes con personas en las plataformas de redes sociales. Un proyecto reciente sugiere que lanzar una campaña de este tipo podría costar sólo unos pocos cientos de dólares.
Marcellino y sus coautores señalan que es casi seguro que muchos países, incluido Estados Unidos, estén explorando el uso de la IA generativa para sus propias campañas de información. Y la amplia accesibilidad de las herramientas de inteligencia artificial generativa, incluidos numerosos modelos de lenguaje de código abierto que cualquiera puede obtener y modificar, reduce el listón para cualquiera que desee lanzar una campaña de información. «Una variedad de actores podrían utilizar la IA generativa para la manipulación de las redes sociales, incluidos actores no estatales técnicamente sofisticados», escriben.
Un segundo informe publicado esta semana por otro grupo de expertos centrado en la tecnología, el Proyecto de Estudios Competitivos Especiales, también advierte que la IA generativa pronto podría convertirse en una forma para que las naciones se flexibilicen entre sí. Insta al gobierno de Estados Unidos a invertir fuertemente en IA generativa porque la tecnología promete impulsar muchas industrias diferentes y proporcionar “nuevas capacidades militares, prosperidad económica e influencia cultural” para cualquier nación que la domine primero.
Al igual que el informe RAND, el análisis del SCSP también llega a algunas conclusiones sombrías. Advierte que es probable que el potencial de la IA generativa desencadene una carrera armamentista para adaptar la tecnología para su uso por parte de militares o en ataques cibernéticos. Si ambos tienen razón, nos dirigimos hacia una carrera armamentista en el espacio de la información que puede resultar particularmente difícil de contener.
¿Cómo evitar el escenario de pesadilla de que Internet se vea invadido por robots de inteligencia artificial programados para la guerra de información? Requiere que los humanos hablen entre sí.
El informe del SCSP recomienda que Estados Unidos “lidere el compromiso global para promover la transparencia, fomentar la confianza y fomentar la colaboración”. Los investigadores de RAND recomiendan que los diplomáticos estadounidenses y chinos hablen sobre la IA generativa y los riesgos que conlleva esta tecnología. “Puede que a todos nos interese no tener una Internet totalmente contaminada e increíble”, afirma Marcellino. Creo que es algo en lo que todos podemos estar de acuerdo.