Si no está roto, no lo reemplace con AI, especialmente cuando se trata de detectores de metales. En octubre pasado, un estudiante de secundaria en Nueva York fue apuñalado con un cuchillo que el escáner de armas de IA de la escuela no pudo detectar.
De acuerdo a BBC, el apuñalamiento ocurrió en Proctor High School en Utica, Nueva York el pasado Halloween y el joven de 18 años sufrió heridas de arma blanca en la cabeza, el cuello, el hombro, la espalda y la mano. Antes del apuñalamiento, la escuela secundaria invirtió en un sistema de detección de armas de IA multimillonario de una empresa llamada Evolv Technology. Ese escáner de armas no detectó el cuchillo de 9 pulgadas que se trajo a la escuela, que luego se usó en el apuñalamiento.
“Hay una epidemia de escuelas que compran nueva tecnología basándose en audaces afirmaciones de marketing y luego descubren que tiene fallas ocultas, a menudo millones de dólares después”, dijo Connor Healy a la BBC. Healy es director de la firma de investigación de seguridad TVPM. “Evolv es uno de los peores delincuentes. Los funcionarios escolares no son expertos técnicos en detección de armas, y empresas como Evolv se benefician de su ignorancia”.
Evolv no respondió de inmediato a la solicitud de comentarios de Gizmodo.
Según los informes, el distrito escolar de la ciudad de Utica compró sistemas Evolv para las 13 escuelas del distrito en marzo pasado y los detectores se instalaron durante las vacaciones de verano. Brian Nolan, superintendente, le dijo a la BBC que desde el apuñalamiento, se han encontrado tres cuchillos más en estudiantes que no fueron detectados originalmente por el escáner de armas de IA. Los escáneres han sido retirados de Proctor High School y reemplazados por detectores de metales. pero aparentemente todavía se usan en las otras 12 escuelas del distrito.
«Los niños [who had the knives] todos dijeron que atravesaron el sistema de detección de armas, les preguntamos sobre eso… realmente, realmente no encuentra cuchillos”, dijo Nolan a la BBC.
Como señala el medio, el sitio web de Evolv colocó previamente el lema «Zonas libres de armas» en su página de inicio. Ese lenguaje cambió después del apuñalamiento a «Nuestra misión: Zonas seguras» y luego nuevamente, más recientemente, a «Nuestra misión: Zonas más seguras». La misión de Evolv es reemplazar los detectores de metales tradicionales con escáneres alimentados por IA y, según un comunicado anterior de la empresa, sus sistemas pudieron detectar cuchillos.
¿Quiere saber más sobre la IA, los chatbots y el futuro del aprendizaje automático? Consulte nuestra cobertura completa de inteligencia artificialo explore nuestras guías para Los mejores generadores de arte de IA gratuitos, Las mejores alternativas de ChatGPTy Todo lo que sabemos sobre ChatGPT de OpenAI.