\n<\/p>\n
Armas biol\u00f3gicas mortales, ataques automatizados a la ciberseguridad, potentes modelos de IA que escapan al control humano. Estas son s\u00f3lo algunas de las amenazas potenciales que plantea la inteligencia artificial, seg\u00fan un nuevo informe del gobierno del Reino Unido. Se public\u00f3 para ayudar a establecer la agenda de una cumbre internacional sobre seguridad de la IA que se celebrar\u00e1 en el Reino Unido la pr\u00f3xima semana. El informe se compil\u00f3 con aportaciones de empresas l\u00edderes en inteligencia artificial, como la unidad DeepMind de Google y varios departamentos gubernamentales del Reino Unido, incluidas agencias de inteligencia.<\/p>\n
Joe White, enviado de tecnolog\u00eda del Reino Unido a Estados Unidos, dice que la cumbre brinda la oportunidad de reunir a pa\u00edses y empresas l\u00edderes en inteligencia artificial para comprender mejor los riesgos que plantea la tecnolog\u00eda. Manejar las posibles desventajas de los algoritmos requerir\u00e1 una colaboraci\u00f3n org\u00e1nica a la antigua, dice White, quien ayud\u00f3 a planificar la cumbre de la pr\u00f3xima semana. \u00abEstos no son desaf\u00edos de m\u00e1quina a humano\u00bb, dice White. \u00abEstos son desaf\u00edos de persona a persona\u00bb.<\/p>\n
El primer ministro del Reino Unido, Rishi Sunak, pronunciar\u00e1 un discurso ma\u00f1ana sobre c\u00f3mo, si bien la IA abre oportunidades para el avance de la humanidad, es importante ser honesto acerca de los nuevos riesgos que crea para las generaciones futuras.<\/p>\n
La Cumbre de Seguridad de la IA del Reino Unido se llevar\u00e1 a cabo los d\u00edas 1 y 2 de noviembre y se centrar\u00e1 principalmente en las formas en que las personas pueden hacer mal uso o perder el control de formas avanzadas de IA. Algunos expertos y ejecutivos de IA en el Reino Unido han criticado el enfoque del evento, diciendo que el gobierno deber\u00eda priorizar preocupaciones m\u00e1s a corto plazo, como ayudar al Reino Unido a competir con l\u00edderes mundiales en IA como Estados Unidos y China.<\/p>\n
Algunos expertos en IA han advertido que un reciente repunte en el debate sobre escenarios lejanos de IA, incluida la posibilidad de extinci\u00f3n humana, podr\u00eda distraer a los reguladores y al p\u00fablico de problemas m\u00e1s inmediatos, como algoritmos sesgados o que la tecnolog\u00eda de IA fortalezca a empresas que ya son dominantes.<\/p>\n
El informe del Reino Unido publicado hoy considera las implicaciones para la seguridad nacional de los grandes modelos ling\u00fc\u00edsticos, la tecnolog\u00eda de inteligencia artificial detr\u00e1s de ChatGPT. White dice que las agencias de inteligencia del Reino Unido est\u00e1n trabajando con el Frontier AI Task Force, un grupo de expertos del gobierno del Reino Unido, para explorar escenarios como lo que podr\u00eda suceder si los malos actores combinaran un gran modelo ling\u00fc\u00edstico con documentos secretos del gobierno. Una posibilidad funesta discutida en el informe sugiere que un modelo de lenguaje amplio que acelere el descubrimiento cient\u00edfico tambi\u00e9n podr\u00eda impulsar proyectos que intenten crear armas biol\u00f3gicas.<\/p>\n
En julio de este a\u00f1o, Dario Amodei, director ejecutivo de la startup de inteligencia artificial Anthropic, dijo a los miembros del Senado de Estados Unidos que dentro de los pr\u00f3ximos dos o tres a\u00f1os podr\u00eda ser posible que un modelo de lenguaje sugiera c\u00f3mo llevar a cabo ataques con armas biol\u00f3gicas a gran escala. Pero White dice que el informe es un documento de alto nivel que no pretende \u201cservir como una lista de compras de todas las cosas malas que se pueden hacer\u201d.<\/p>\n
Adem\u00e1s de las agencias gubernamentales del Reino Unido, el informe publicado hoy fue revisado por un panel que incluye expertos en pol\u00edticas y \u00e9tica del laboratorio de inteligencia artificial DeepMind de Google, que comenz\u00f3 como una startup de inteligencia artificial en Londres y fue adquirida por la compa\u00f1\u00eda de b\u00fasqueda en 2014, y Hugging Face, una startup. Desarrollar software de inteligencia artificial de c\u00f3digo abierto.<\/p>\n
Tambi\u00e9n se consult\u00f3 a Yoshua Bengio, uno de los tres \u201cpadrinos de la IA\u201d que gan\u00f3 el premio m\u00e1s importante en inform\u00e1tica, el Premio Turing, por t\u00e9cnicas de aprendizaje autom\u00e1tico fundamentales para el actual auge de la IA. Bengio dijo recientemente que su optimismo sobre la tecnolog\u00eda que ayud\u00f3 a fomentar se ha agriado y que se necesita una nueva organizaci\u00f3n de \u201cdefensa de la humanidad\u201d para ayudar a mantener la IA bajo control.<\/p>\n<\/div>\n