\n<\/p>\n
En cambio, ese eslogan dice menos sobre lo que hace la empresa y m\u00e1s sobre por qu\u00e9 lo hace. Los anuncios de trabajo de Helsing rebosan de idealismo, llamando a personas con la convicci\u00f3n de que \u201cvale la pena proteger los valores democr\u00e1ticos\u201d.<\/p>\n
Los tres fundadores de Helsing hablan de la invasi\u00f3n rusa de Crimea en 2014 como una llamada de atenci\u00f3n de que toda Europa necesitaba estar preparada para responder a la agresi\u00f3n rusa. \u201cCada vez me preocup\u00f3 m\u00e1s que nos estamos quedando atr\u00e1s de las tecnolog\u00edas clave en nuestras sociedades abiertas\u201d, dice Reil. Ese sentimiento creci\u00f3 cuando vio, en 2018, a los empleados de Google protestar contra un acuerdo con el Pent\u00e1gono, en el que Google habr\u00eda ayudado a los militares a usar IA para analizar im\u00e1genes de drones. M\u00e1s de 4000 empleados firmaron una carta argumentando que era moral y \u00e9ticamente irresponsable que Google ayudara a la vigilancia militar y sus resultados potencialmente letales. En respuesta, Google dijo que no renovar\u00eda el contrato.<\/p>\n
\u201cSimplemente no entend\u00eda la l\u00f3gica de esto\u201d, dice Reil. \u201cSi queremos vivir en sociedades abiertas y libres, ser quienes queremos ser y decir lo que queremos decir, necesitamos poder protegerlos. No podemos darlos por sentado\u201d. Le preocupaba que si se disuad\u00eda a las grandes tecnol\u00f3gicas, con todos sus recursos, de trabajar con la industria de defensa, Occidente inevitablemente se quedar\u00eda atr\u00e1s. \u201cSent\u00ed que si no lo est\u00e1n haciendo, si los mejores ingenieros de Google no est\u00e1n preparados para trabajar en esto, \u00bfqui\u00e9n lo est\u00e1?\u201d.<\/p>\n
Por lo general, es dif\u00edcil saber si los productos de defensa funcionan de la manera en que sus creadores dicen que lo hacen. Las empresas que los venden, incluida Helsing, afirman que comprometer la eficacia de sus herramientas para ser transparentes sobre los detalles. Pero mientras hablamos, los fundadores intentan proyectar una imagen de lo que hace que su IA sea compatible con los reg\u00edmenes democr\u00e1ticos a los que quiere vender. \u201cRealmente valoramos mucho la privacidad y la libertad, y nunca har\u00edamos cosas como el reconocimiento facial\u201d, dice Scherf, afirmando que la compa\u00f1\u00eda quiere ayudar a los militares a reconocer objetos, no personas. \u00abHay ciertas cosas que no son necesarias para la misi\u00f3n de defensa\u00bb.<\/p>\n
Pero la creciente automatizaci\u00f3n en una industria mortal como la defensa a\u00fan plantea problemas espinosos. Si todo lo que ofrecen los sistemas de Helsing es una mayor conciencia del campo de batalla que ayuda a los militares a comprender d\u00f3nde est\u00e1n los objetivos, eso no plantea ning\u00fan problema, dice Herbert Lin, investigador principal del Centro para la Seguridad y Cooperaci\u00f3n Internacional de la Universidad de Stanford. Pero una vez que este sistema est\u00e9 en su lugar, cree, los tomadores de decisiones se ver\u00e1n presionados para conectarlo con armas aut\u00f3nomas. \u201cLos formuladores de pol\u00edticas tienen que resistirse a la idea de hacer eso\u201d, dice Lin, y agrega que los humanos, no las m\u00e1quinas, deben ser responsables cuando ocurren errores. Si la IA \u201cmata un tractor en lugar de un cami\u00f3n o un tanque, eso es malo. \u00bfQui\u00e9n va a ser responsable de eso?\u201d.<\/p>\n
Riel insiste en que Helsing no fabrica armas aut\u00f3nomas. \u201cHacemos lo contrario\u201d, dice. \u201cHacemos sistemas de inteligencia artificial que ayudan a los humanos a comprender mejor la situaci\u00f3n\u201d.<\/p>\n
Aunque los operadores pueden usar la plataforma de Helsing para derribar un dron, en este momento es un ser humano el que toma esa decisi\u00f3n, no la IA. Pero hay dudas sobre cu\u00e1nta autonom\u00eda tienen realmente los humanos cuando trabajan en estrecha colaboraci\u00f3n con las m\u00e1quinas. \u201cCuanto menos haces que los usuarios entiendan las herramientas con las que est\u00e1n trabajando, las tratan como magia\u201d, dice Jensen del Centro de Estudios Estrat\u00e9gicos e Internacionales, afirmando que esto significa que los usuarios militares pueden confiar demasiado o demasiado poco en la IA.<\/p>\n<\/div>\n