\n<\/aside>\n<\/p>\n
Miles de personas que utilizan el metro de Londres vieron sus movimientos, comportamiento y lenguaje corporal vigilados por un software de vigilancia de inteligencia artificial dise\u00f1ado para ver si estaban cometiendo delitos o se encontraban en situaciones inseguras, revelan nuevos documentos obtenidos por WIRED. El software de aprendizaje autom\u00e1tico se combin\u00f3 con im\u00e1genes de CCTV en vivo para tratar de detectar comportamientos agresivos y armas o cuchillos blandidos, as\u00ed como buscar personas que cayeran a las v\u00edas del metro o esquivaran las tarifas.<\/p>\n
Desde octubre de 2022 hasta finales de septiembre de 2023, Transport for London (TfL), que opera la red de metro y autob\u00fas de la ciudad, prob\u00f3 11 algoritmos para monitorear a las personas que pasaban por la estaci\u00f3n de metro Willesden Green, en el noroeste de la ciudad. La prueba de concepto es la primera vez que el organismo de transporte combina inteligencia artificial y secuencias de video en vivo para generar alertas que se env\u00edan al personal de primera l\u00ednea. Durante la prueba se emitieron m\u00e1s de 44.000 alertas, de las cuales 19.000 se entregaron al personal de la estaci\u00f3n en tiempo real.<\/p>\n
Los documentos enviados a WIRED en respuesta a una solicitud de la Ley de Libertad de Informaci\u00f3n detallan c\u00f3mo TfL utiliz\u00f3 una amplia gama de algoritmos de visi\u00f3n por computadora para rastrear el comportamiento de las personas mientras estaban en la estaci\u00f3n. Es la primera vez que se informan todos los detalles de la prueba, y se produce despu\u00e9s de que TfL dijera, en diciembre, que ampliar\u00e1 su uso de IA para detectar la evasi\u00f3n de tarifas a m\u00e1s estaciones en toda la capital brit\u00e1nica.<\/p>\n
En la prueba en Willesden Green, una estaci\u00f3n que ten\u00eda 25.000 visitantes por d\u00eda antes de la pandemia de COVID-19, el sistema de inteligencia artificial se configur\u00f3 para detectar posibles incidentes de seguridad para permitir que el personal ayudara a las personas necesitadas, pero tambi\u00e9n se centr\u00f3 en comportamientos criminales y antisociales. . Tres documentos proporcionados a WIRED detallan c\u00f3mo se utilizaron modelos de IA para detectar sillas de ruedas, cochecitos, vapeadores, personas que acceden a \u00e1reas no autorizadas o se ponen en peligro al acercarse al borde de los andenes del tren.<\/p>\n\n Anuncio <\/span> <\/p>\n<\/aside>\nLos documentos, que est\u00e1n parcialmente redactados, tambi\u00e9n muestran c\u00f3mo la IA cometi\u00f3 errores durante la prueba, como se\u00f1alar a los ni\u00f1os que segu\u00edan a sus padres a trav\u00e9s de las barreras de boletos como posibles evasores de tarifas, o no ser capaces de distinguir entre una bicicleta plegable y una bicicleta no plegable. Los agentes de polic\u00eda tambi\u00e9n ayudaron en el juicio sosteniendo un machete y una pistola a la vista de las c\u00e1maras de CCTV, mientras la estaci\u00f3n estaba cerrada, para ayudar al sistema a detectar mejor las armas.<\/p>\n
Los expertos en privacidad que revisaron los documentos cuestionan la precisi\u00f3n de los algoritmos de detecci\u00f3n de objetos. Tambi\u00e9n dicen que no est\u00e1 claro cu\u00e1ntas personas sab\u00edan sobre el ensayo y advierten que dichos sistemas de vigilancia podr\u00edan ampliarse f\u00e1cilmente en el futuro para incluir sistemas de detecci\u00f3n m\u00e1s sofisticados o software de reconocimiento facial que intente identificar a individuos espec\u00edficos. \u201cSi bien este ensayo no involucr\u00f3 el reconocimiento facial, el uso de la IA en un espacio p\u00fablico para identificar comportamientos, analizar el lenguaje corporal e inferir caracter\u00edsticas protegidas plantea muchas de las mismas cuestiones cient\u00edficas, \u00e9ticas, legales y sociales que plantean las tecnolog\u00edas de reconocimiento facial. \u00ab, dice Michael Birtwistle, director asociado del instituto de investigaci\u00f3n independiente Ada Lovelace Institute.<\/p>\n
En respuesta a la solicitud de Libertad de Informaci\u00f3n de WIRED, TfL dice que utiliz\u00f3 im\u00e1genes de CCTV existentes, algoritmos de inteligencia artificial y \u201cnumerosos modelos de detecci\u00f3n\u201d para detectar patrones de comportamiento. \u00abAl proporcionar al personal de la estaci\u00f3n informaci\u00f3n y notificaciones sobre el movimiento y el comportamiento de los clientes, se espera que puedan responder a cualquier situaci\u00f3n m\u00e1s r\u00e1pidamente\u00bb, dice la respuesta. Tambi\u00e9n dice que el ensayo ha proporcionado informaci\u00f3n sobre la evasi\u00f3n de tarifas que \u201cnos ayudar\u00e1 en nuestros enfoques e intervenciones futuras\u201d y que los datos recopilados est\u00e1n en l\u00ednea con sus pol\u00edticas de datos.<\/p>\n
En una declaraci\u00f3n enviada despu\u00e9s de la publicaci\u00f3n de este art\u00edculo, Mandy McGregor, directora de pol\u00edticas y seguridad comunitaria de TfL, dice que los resultados del ensayo contin\u00faan analiz\u00e1ndose y agrega que \u00abno hubo evidencia de sesgo\u00bb en los datos recopilados del ensayo. Durante el juicio, dice McGregor, no hab\u00eda carteles en la estaci\u00f3n que mencionaran las pruebas de las herramientas de vigilancia de IA.<\/p>\n
\u201cActualmente estamos considerando el dise\u00f1o y alcance de una segunda fase del ensayo. No se han tomado otras decisiones sobre la ampliaci\u00f3n del uso de esta tecnolog\u00eda, ni a m\u00e1s estaciones ni a a\u00f1adir capacidad\u201d. dice McGregor. \u00abCualquier implementaci\u00f3n m\u00e1s amplia de la tecnolog\u00eda m\u00e1s all\u00e1 de un piloto depender\u00eda de una consulta completa con las comunidades locales y otras partes interesadas relevantes, incluidos expertos en el campo\u00bb.<\/p>\n<\/p><\/div>\n
Source link-49<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"Miles de personas que utilizan el metro de Londres vieron sus movimientos, comportamiento y lenguaje corporal vigilados por un software de vigilancia de inteligencia artificial dise\u00f1ado para ver si estaban…<\/p>\n","protected":false},"author":1,"featured_media":1006013,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21980],"tags":[6119,133,5882,19829,148,15887,5430,3859,3123,107,13564,754,433,4675],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/1006012"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=1006012"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/1006012\/revisions"}],"predecessor-version":[{"id":1006014,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/1006012\/revisions\/1006014"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/1006013"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=1006012"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=1006012"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=1006012"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}