Otra variable, “pareja presunta”, se utiliza para determinar si alguien tiene una relación encubierta, ya que las personas solteras reciben más beneficios. Esto implica buscar datos sobre conexiones entre los beneficiarios de la asistencia social y otros residentes daneses, por ejemplo, si han vivido en la misma dirección o si han criado hijos juntos.
“La ideología que subyace a estos sistemas algorítmicos, y [the] La vigilancia y el seguimiento muy intrusivos de las personas que reciben asistencia social es una profunda sospecha de los pobres”, dice Victoria Adelmant, directora del Proyecto de Derechos Humanos y Bienestar Digital.
para todos los complejidad de los modelos de aprendizaje automático y todos los datos recopilados y procesados, todavía hay una persona que debe tomar una decisión en el extremo más difícil de los controles de fraude. Este es el mecanismo de seguridad, argumenta Jacobsen, pero también es el primer lugar donde estos sistemas chocan con la realidad.
Morten Bruun Jonassen es una de estas cajas de seguridad. Ex oficial de policía, dirige el equipo de control de Copenhague, un grupo de funcionarios encargados de garantizar que los residentes de la ciudad estén registrados en la dirección correcta y reciban los pagos de beneficios correctos. Ha estado trabajando para el departamento de servicios sociales de la ciudad durante 14 años, tiempo suficiente para recordar un tiempo antes de que los algoritmos asumieran tanta importancia, y el tiempo suficiente para haber observado el cambio de tono en la conversación nacional sobre el bienestar.
Si bien la guerra contra el fraude en la asistencia social sigue siendo políticamente popular en Dinamarca, Jonassen dice que solo un número «muy pequeño» de los casos que encuentra involucran fraude real. A pesar de toda la inversión en ella, la unidad de minería de datos no es su mejor fuente de pistas, y los casos señalados por el sistema de Jacobsen representan solo el 13 por ciento de los casos que investiga su equipo, la mitad del promedio nacional. Desde 2018, Jonassen y su unidad han suavizado su enfoque en comparación con otras unidades en Dinamarca, que tienden a ser más duras con el fraude, dice. En un caso documentado en 2019 por DR, la emisora pública de Dinamarca, una beneficiaria de asistencia social dijo que los investigadores habían rastreado sus redes sociales para ver si estaba en una relación antes de acusarla injustamente de fraude de asistencia social.
Si bien le da crédito a la unidad de minería de datos de Jacobsen por tratar de mejorar sus algoritmos, Jonassen aún no ha visto una mejora significativa en los casos que maneja. “Básicamente, no ha sido mejor”, dice. En una encuesta de 2022 de los pueblos y ciudades de Dinamarca realizada por la unidad, los funcionarios calificaron su satisfacción con ella, en promedio, entre 4 y 5 de 7.
Jonassen dice que las personas que solicitan beneficios deben recibir lo que les corresponde, ni más ni menos. Y a pesar de la escala de la burocracia automatizada de Jacobsen, inicia más investigaciones basadas en consejos de escuelas y trabajadores sociales que en casos señalados por máquina. Y, lo que es más importante, dice, trabaja arduamente para comprender a las personas que reclaman beneficios y las situaciones difíciles en las que se encuentran. “Si observa las estadísticas y solo mira la pantalla”, dice, “no ve que hay gente detrás de esto”.
Información adicional de Daniel Howden, Soizic Penicaud, Pablo Jiménez Arandia y Htet Aung. El reportaje fue apoyado por la Beca de Responsabilidad de IA del Centro Pulitzer y el Centro de Investigación e Informes Artísticos.