Aplicación de la ley india está empezando a dar una gran importancia a la tecnología de reconocimiento facial. La policía de Delhi, que busca identificar a las personas involucradas en los disturbios civiles en el norte de India en los últimos años, dijo que consideraría una precisión del 80 por ciento o más como una coincidencia «positiva», según documentos obtenidos por Internet Freedom Foundation a través de registros públicos. solicitud.
La llegada del reconocimiento facial a la región de la capital de la India marca la expansión de los funcionarios encargados de hacer cumplir la ley indios que utilizan datos de reconocimiento facial como evidencia para un posible enjuiciamiento, lo que hace sonar las alarmas entre los expertos en privacidad y libertades civiles. También hay preocupaciones sobre el umbral de precisión del 80 por ciento, que los críticos dicen que es arbitrario y demasiado bajo, dadas las posibles consecuencias para aquellos marcados como coincidentes. La falta de una ley integral de protección de datos en India hace que las cosas sean aún más preocupantes.
Los documentos afirman además que incluso si una coincidencia está por debajo del 80 por ciento, se consideraría un «falso positivo» en lugar de un negativo, lo que haría que esa persona «sujeta a la debida verificación con otra evidencia corroborativa».
“Esto significa que aunque el reconocimiento facial no les está dando el resultado que ellos mismos han decidido que es el umbral, seguirán investigando”, dice Anushka Jain, asesora asociada de políticas de vigilancia y tecnología del IFF, quien solicitó esta información. . “Esto podría conducir al acoso del individuo solo porque la tecnología dice que se parece a la persona que la policía está buscando”. Agregó que este movimiento de la policía de Delhi también podría resultar en el acoso de personas de comunidades que históricamente han sido blanco de agentes de la ley.
En respuesta a la solicitud de registros de la IFF, la policía dijo que está utilizando fotografías de convictos y fotografías de expedientes para ejecutar el reconocimiento facial. Agregaron que estos podrían usarse como evidencia, pero se negaron a compartir más detalles. Sin embargo, aclararon que, en caso de una coincidencia positiva, los oficiales de policía realizarían una “investigación empírica” adicional antes de emprender cualquier tipo de acción legal. La policía de Delhi no respondió a las solicitudes de comentarios por correo electrónico de WIRED.
Divij Joshi, que ha dedicado tiempo a investigar la legalidad de los sistemas de reconocimiento facial, dice que el umbral de una coincidencia del 80 por ciento es prácticamente insignificante. Joshi explica que los números de precisión dependen en gran medida de las condiciones para probar los modelos de tecnología de reconocimiento facial frente a conjuntos de datos de referencia particulares.
“La precisión normal con los sistemas de reconocimiento facial o aprendizaje automático se determina comparando un modelo desarrollado sobre datos de entrenamiento y datos de validación con un conjunto de datos de evaluación comparativa”, dice Joshi, candidato a doctorado en University College London. “Una vez que se modifican los datos de entrenamiento, se deben comparar con un conjunto de datos de terceros o un conjunto de datos ligeramente diferente”. Esta evaluación comparativa, dice, es lo que normalmente se usa para calcular el porcentaje de precisión predictiva.
La evidencia de sesgo racial en los modelos de reconocimiento facial ha hecho que el uso de la tecnología sea problemático durante mucho tiempo. Y aunque muchas variables afectan la precisión de los sistemas de reconocimiento facial, el uso generalizado por parte de la policía de un sistema con un umbral de precisión general del 80 por ciento parece ser muy inusual. Un estudio del Instituto Nacional de Estándares y Tecnología de EE. UU. de 2021 descubrió que los sistemas utilizados para hacer coincidir un solo escaneo de los rostros de los viajeros con una base de datos que contiene sus fotos tenían una tasa de precisión del 99,5 por ciento o más. Sin embargo, otros estudios han encontrado tasas de error de hasta el 34,7 por ciento cuando se utilizan para identificar a mujeres con tez más oscura.