\n<\/p>\n
La vicepresidenta Harris anunci\u00f3 durante su discurso en Londres que la declaraci\u00f3n ahora ha sido firmada por naciones alineadas con Estados Unidos, entre las que se incluyen el Reino Unido, Canad\u00e1, Australia, Alemania y Francia. Entre los 31 firmantes no se incluyen China ni Rusia, que junto con Estados Unidos son vistos como l\u00edderes en el desarrollo de sistemas de armas aut\u00f3nomas. China se uni\u00f3 a Estados Unidos para firmar una declaraci\u00f3n sobre los riesgos que plantea la IA como parte de la Cumbre de Seguridad de la IA coordinada por el gobierno brit\u00e1nico.<\/p>\n
Automatizaci\u00f3n mortal<\/p>\n
Hablar de IA militar a menudo evoca la idea de armas impulsadas por IA capaces de decidir por s\u00ed mismas cu\u00e1ndo y c\u00f3mo usar fuerza letal. Estados Unidos y varias otras naciones se han resistido a los llamados a una prohibici\u00f3n total de tales armas, pero la pol\u00edtica del Pent\u00e1gono es que los sistemas aut\u00f3nomos deber\u00edan permitir a \u00abcomandantes y operadores ejercer niveles apropiados de juicio humano sobre el uso de la fuerza\u00bb. Las discusiones sobre el tema como parte de la Convenci\u00f3n de las Naciones Unidas sobre Ciertas Armas Convencionales, establecida en 1980 para crear reglas internacionales sobre el uso de armas consideradas de naturaleza excesiva o indiscriminada, se han estancado en gran medida.<\/p>\n
La declaraci\u00f3n encabezada por Estados Unidos anunciada la semana pasada no llega tan lejos como para buscar una prohibici\u00f3n de cualquier uso espec\u00edfico de la IA en el campo de batalla. En cambio, se centra en garantizar que la IA se utilice de manera que garantice la transparencia y la confiabilidad. Esto es importante, dice Kahn, porque los militares buscan aprovechar la IA de muchas maneras. Incluso si se restringiera y se supervisara de cerca, la tecnolog\u00eda a\u00fan podr\u00eda tener efectos desestabilizadores o peligrosos.<\/p>\n
Una preocupaci\u00f3n es que un sistema de inteligencia artificial que funciona mal pueda hacer algo que desencadene una escalada de las hostilidades. \u00abEs importante centrarse en las armas letales aut\u00f3nomas\u00bb, afirma Kahn. \u00abAl mismo tiempo, el proceso se ha estancado en estos debates, que se centran exclusivamente en un tipo de sistema que a\u00fan no existe\u00bb.<\/p>\n
Algunas personas todav\u00eda est\u00e1n trabajando para intentar prohibir las armas letales aut\u00f3nomas. El mismo d\u00eda que Harris anunci\u00f3 la nueva declaraci\u00f3n sobre IA militar, el Primer Comit\u00e9 de la Asamblea General de la ONU, un grupo de naciones que trabaja en desarme y proliferaci\u00f3n de armas, aprob\u00f3 una nueva resoluci\u00f3n sobre armas letales aut\u00f3nomas.<\/p>\n
La resoluci\u00f3n exige un informe sobre los desaf\u00edos \u201chumanitarios, legales, de seguridad, tecnol\u00f3gicos y \u00e9ticos\u201d que plantean las armas letales aut\u00f3nomas y la aportaci\u00f3n de organizaciones internacionales y regionales, el Comit\u00e9 Internacional de la Cruz Roja, la sociedad civil, la comunidad cient\u00edfica, e industria. Una declaraci\u00f3n emitida por la ONU cit\u00f3 al representante de Egipto diciendo que \u00abun algoritmo no debe tener el control total de las decisiones que implican matar o da\u00f1ar a seres humanos\u00bb, despu\u00e9s de la votaci\u00f3n.<\/p>\n<\/div>\n