A Rite Aid se le ha prohibido el uso de software de reconocimiento facial durante cinco años, después de que la Comisión Federal de Comercio (FTC) descubriera que el “uso imprudente de sistemas de vigilancia facial” por parte del gigante farmacéutico estadounidense humillaba a los clientes y ponía en riesgo su “información sensible”.
La orden de la FTC, que está sujeta a la aprobación del Tribunal de Quiebras de EE. UU. después de que Rite Aid se acogiera al Capítulo 11 de protección por quiebra en octubre, también instruye a Rite Aid a eliminar cualquier imagen que haya recopilado como parte de la implementación de su sistema de reconocimiento facial, así como cualquier producto. que se construyeron a partir de esas imágenes. La empresa también debe implementar un programa sólido de seguridad de datos para salvaguardar los datos personales que recopila.
Un informe de Reuters de 2020 detalló cómo la cadena de farmacias había introducido en secreto sistemas de reconocimiento facial en unas 200 tiendas de EE. UU. durante un período de ocho años a partir de 2012, con “barrios en gran medida de bajos ingresos y no blancos” sirviendo como banco de pruebas de tecnología.
Con el creciente enfoque de la FTC en el uso indebido de la vigilancia biométrica, Rite Aid cayó firmemente en la mira de la agencia gubernamental. Entre sus acusaciones se encuentra que Rite Aid, en asociación con dos empresas contratadas, creó una “base de datos de lista de vigilancia” que contiene imágenes de clientes que, según la empresa, habían participado en actividades delictivas en una de sus tiendas. Estas imágenes, que a menudo eran de mala calidad, fueron capturadas por CCTV o por las cámaras de los teléfonos móviles de los empleados.
Cuando un cliente ingresaba a una tienda y supuestamente coincidía con una imagen existente en su base de datos, los empleados recibían una alerta automática indicándoles que tomaran medidas, y la mayoría de las veces esta instrucción era «acercarse e identificarse», es decir, verificar la identidad del cliente y pidiéndoles que se fueran. A menudo, estas «coincidencias» eran falsos positivos que llevaban a los empleados a acusar incorrectamente a los clientes de irregularidades, creando «vergüenza, acoso y otros daños», según la FTC.
“Los empleados, basándose en alertas de falsos positivos, siguieron a los consumidores por sus tiendas, los registraron, les ordenaron que se fueran, llamaron a la policía para confrontar o sacar a los consumidores y los acusaron públicamente, a veces frente a amigos o familiares, de hurto u otras irregularidades. ”, se lee en la denuncia.
Además, la FTC dijo que Rite Aid no informó a los clientes que la tecnología de reconocimiento facial estaba en uso, al tiempo que instruyó a los empleados a específicamente no revelar esta información a los clientes.
cara a cara
El software de reconocimiento facial se ha convertido en una de las facetas más controvertidas de la era de la vigilancia impulsada por la IA. En los últimos años hemos visto ciudades emitir prohibiciones amplias sobre esta tecnología, mientras que los políticos han luchado por regular cómo la utiliza la policía. Y, mientras tanto, empresas como Clearview AI se han visto afectadas por demandas y multas en todo el mundo por importantes violaciones de la privacidad de datos en torno a la tecnología de reconocimiento facial.
Los últimos hallazgos de la FTC sobre Rite Aid también arrojan luz sobre los sesgos inherentes a los sistemas de IA. Por ejemplo, la FTC dice que Rite Aid no logró mitigar los riesgos para ciertos consumidores debido a su raza: su tecnología era “más probable que generara falsos positivos en tiendas ubicadas en comunidades de pluralidad negra y asiática que en comunidades de pluralidad blanca”, la nota de hallazgos.
Además, la FTC dijo que Rite Aid no probó ni midió la precisión de su sistema de reconocimiento facial antes o después del despliegue.
En un comunicado de prensa, Rite Aid dijo que estaba “complacido de llegar a un acuerdo con la FTC”, pero que no estaba de acuerdo con el quid de las acusaciones.
«Las acusaciones se relacionan con un programa piloto de tecnología de reconocimiento facial que la Compañía implementó en un número limitado de tiendas», dijo Rite Aid en su comunicado. «Rite Aid dejó de utilizar la tecnología en este pequeño grupo de tiendas hace más de tres años, antes de que comenzara la investigación de la FTC sobre el uso de la tecnología por parte de la empresa».