En 2020, yo ayudó a crear Signal for Help, una señal de mano que comunica a amigos, familiares y transeúntes que «Necesito que me vigiles de una manera segura». Nuestro equipo promovió la Señal de ayuda en las redes sociales, anticipando un aumento relacionado con la pandemia en las ya altas tasas de violencia de género, y se volvió viral en noviembre de 2021 durante un momento cargado de ansiedad, directivas de quedarse en casa y la proliferación de videollamada.
Los casos de mujeres y niñas que utilizan la Señal de ayuda para obtener ayuda en situaciones peligrosas han sido noticia. Por ejemplo, una mujer usó la Señal de ayuda durante una parada de tráfico para obtener ayuda con su esposo abusivo, y otra mujer la usó para notificar al personal de una estación de servicio que un exnovio violento la retenía contra su voluntad. Como resultado, personas bien intencionadas han estado tratando de integrar Signal for Help con la tecnología digital. Una empresa con herramientas de cámara de IA se acercó para preguntar sobre cómo incorporar el reconocimiento de Signal for Help en su sistema de seguridad, y ha habido intentos similares de aficionados discutidos en las redes sociales.
El atractivo es claro: la detección automática podría ser útil para un amigo o compañero de trabajo bien intencionado al otro lado de una videollamada que podría no ver a alguien usando Signal for Help. Es admirable que la gente quiera ayudar a quienes pueden estar en peligro, pero estas nuevas aplicaciones de la tecnología malinterpretan el propósito y el uso de la Señal de ayuda.
Tales esfuerzos son parte de una tendencia creciente de usar IA para reconocer la angustia: los experimentos que identifican la angustia en ganado como pollos, vacas y cerdos arrojan resultados prometedores porque la IA parece desenredar una cacofonía de gritos, cloqueos y gruñidos de animales mejor que el oído desnudo. .
Pero los humanos no somos gallinas ni ganado. La intención de abuso y control puede transformar a los luditas en expertos. En las relaciones peligrosas, siempre existe la cuestión de quién está a cargo de la tecnología.
La Señal de Ayuda es una herramienta intencionalmente efímera, diseñada para ayudar a las personas a comunicarse sin pronunciar una palabra y sin dejar rastro digital. Me están lastimando… No puedo decirlo en voz alta… ¿Estarás ahí para mí mientras lo averiguo? La impermanencia es una característica importante, dada la forma en que los abusadores tienden a controlar y manipular. Acechan, acechan y monitorean dispositivos. Los refugios para mujeres habitualmente ayudan a las sobrevivientes a lidiar con teléfonos inteligentes pirateados, aplicaciones no deseadas de rastreo de ubicación y grabación de voz, cámaras ocultas y similares. Los tableros de mensajes, las redes sociales e incluso el boca a boca pueden ayudar a los abusadores a violar a las personas que dicen amar. En el caso de Signal for Help, los abusadores pueden usar el mismo mecanismo de IA diseñado por seguridad para alertarlos de que la persona a la que están lastimando está tratando de usar Signal for Help.
Y hay otros problemas con las herramientas de inteligencia artificial para detectar la angustia en los humanos, que incluyen software para escanear los correos electrónicos de los estudiantes y búsquedas en la web de autolesiones y violencia, así como para identificar la confusión, el aburrimiento y la distracción de los estudiantes en las aulas virtuales. Además de las preocupaciones éticas y de privacidad, su implementación depende de la creencia de que podemos percibir de manera confiable a alguien en problemas y actuar en consecuencia de una manera que realmente lo ayude. Estas herramientas operan con la creencia positivista de que cuando un ser humano está en peligro, lo expresa de manera predecible. Y cuando lo expresan, desean un tipo específico de intervención.
Pero la investigación muestra que nuestra suposición de que las expresiones faciales humanas se alinean con las emociones no es algo que podamos creer de todo corazón. Los desajustes entre el cuerpo y la emoción pueden ser más pronunciados en las relaciones no saludables. Las personas abusadas hablan de disociación, de necesidad de “dejar sus cuerpos” para sobrevivir. Algunos se refieren a los extremos que toman para ocultar su ofensa, herida y dolor, que tienen que hacerlo para aplacar a los abusadores y a los transeúntes que los respaldan. Hablan de lo conscientes que son de cada inflexión y contracción, de cómo mastican, parpadean y respiran, y que son castigados cuando simplemente existen de una manera que irrita a sus abusadores.