El caso legal de Porcornie aún está en curso. En diciembre, el Instituto Holandés de Derechos Humanos emitió un fallo provisional en el que afirmaba que tenía fuertes sospechas de que el software utilizado por VU Amsterdam era discriminatorio y otorgaba a la universidad 10 semanas para presentar su defensa. Esa defensa aún no se ha hecho pública, pero VU Amsterdam ha argumentado anteriormente que los datos de registro de Pocornie, que muestran cuánto tiempo tardó en iniciar sesión en su examen y cuántas veces tuvo que reiniciar el software, implican que sus problemas se debieron a un Internet inestable. conexión, a diferencia de los problemas con la tecnología de detección de rostros. Se espera un fallo a finales de este año.
Los productores de software anti-trampas como Proctorio se vieron impulsados por la pandemia, ya que las salas de examen fueron reemplazadas por los propios hogares de los estudiantes. El monitoreo digital estaba destinado a ayudar a las escuelas y universidades a mantener los negocios como de costumbre durante el cierre, sin crear una oportunidad para que los estudiantes sin supervisión hagan trampa. Pero la pandemia terminó y el software todavía se usa, incluso cuando los estudiantes de todo el mundo vuelven a la enseñanza presencial. “No creemos que vaya a desaparecer”, dijo Jason Kelly, quien se enfoca en la vigilancia de los estudiantes en Electronic Frontier Foundation, con sede en EE. UU., en una revisión de 2022 del estado de la privacidad de los estudiantes en diciembre.
En los EE. UU., Amaya Ross dice que su universidad en Ohio todavía usa software anti-trampas. Pero cada vez que inicia sesión, siente ansiedad de que su experiencia durante la pandemia se repita. Ross, que es negra, también dice que no pudo acceder a su prueba cuando encontró el software por primera vez en 2021. «Seguía diciendo: no podemos reconocer tu rostro», dice Ross, que tenía 20 años en ese momento. Después de recibir ese mensaje tres o cuatro veces, comenzó a jugar con las lámparas cercanas y las persianas de las ventanas. Incluso intentó hacer una prueba de pie, directamente debajo de la luz del techo.
Eventualmente, descubrió que si balanceaba una linterna LED en un estante cerca de su escritorio y la dirigía directamente a su cara, podía tomar su examen de ciencias, aunque la luz era casi cegadora. Ella compara la experiencia con conducir de noche con un automóvil que se acerca desde la otra dirección con las luces delanteras encendidas. “Solo tenías que seguir adelante hasta que estuviera hecho”, dice ella.
Ross se niega a nombrar a la empresa que fabricó el software que todavía utiliza (Proctorio ha demandado al menos a uno de sus críticos). Pero después de su madre, Janice Wyatt-Ross, al corriente sobre lo que sucedió en Twitter, Ross dice que un representante de la empresa se acercó y le aconsejó que dejara de tomar pruebas frente a paredes blancas. Ahora hace pruebas con un tapiz multicolor detrás de ella, que hasta ahora parece funcionar. Cuando Ross preguntó a algunos de sus amigos negros o de piel más oscura sobre el software, muchos de ellos habían experimentado problemas similares. “Pero luego les pregunté a mis amigos blancos y dijeron: ‘Estoy tomando exámenes en la oscuridad’”, dice ella.
Por lo general, la tecnología de reconocimiento y detección de rostros no reconoce a las personas con piel más oscura cuando las empresas usan modelos que no fueron entrenados en diversos conjuntos de datos, dice Deborah Raji, miembro de la Fundación Mozilla. En 2019, Raji copublicó una auditoría de productos de reconocimiento facial implementados comercialmente, que encontró que algunos de ellos eran hasta un 30 por ciento peores para reconocer a las mujeres de piel más oscura que a los hombres blancos. “Muchos de los conjuntos de datos que estaban en uso generalizado en el espacio de reconocimiento facial antes [2019] contenían más del 90 % de sujetos de piel más clara, más del 70 % de sujetos masculinos”, dice, y agrega que se han logrado avances desde entonces, pero que este no es un problema que haya sido “resuelto”.