Esto es lo que los maestros de secundaria ven cuando abren GoGuardian, una aplicación de software popular que se usa para monitorear la actividad de los estudiantes: la interfaz es familiar, como la vista de galería de una gran llamada de Zoom. Pero en lugar de ver rostros de adolescentes en cada cuadro, el maestro ve imágenes en miniatura que muestran las pantallas de las computadoras portátiles de cada estudiante. Observan cómo los cursores de los estudiantes recorren las líneas de un soneto o aparece la palabra “clorofluorocarbono”, minuciosamente escrita en una barra de búsqueda. Si un estudiante se siente atraído por una distracción (un juego en línea, un video de acrobacias), el maestro también puede ver eso y puede recordarle al estudiante que se concentre en la tarea a través de un mensaje privado enviado a través de GoGuardian. Si este estudiante se ha desviado de la tarea demasiadas veces, el maestro puede tomar el control remoto del dispositivo y eliminar la pestaña por sí mismo.
El software de monitoreo de estudiantes ha sido objeto de un nuevo escrutinio en el transcurso de la pandemia de Covid-19. Cuando los estudiantes en los EE. UU. se vieron obligados a continuar sus estudios de manera virtual, muchos trajeron a casa dispositivos proporcionados por la escuela. Integrado en estas máquinas había un software que puede permitir a los maestros ver y controlar las pantallas de los estudiantes, usar IA para escanear texto de los correos electrónicos de los estudiantes y documentos basados en la nube y, en casos severos, enviar alertas de posibles amenazas violentas o daños a la salud mental a los educadores. y la policía local después del horario escolar.
Ahora que la mayoría de los estudiantes estadounidenses finalmente regresan a la escuela en persona, el software de vigilancia que proliferó durante la pandemia permanecerá en los dispositivos proporcionados por la escuela, donde continuará observándolos. Según un informe publicado hoy por el Centro para la Democracia y la Tecnología, el 89 por ciento de los maestros han dicho que sus escuelas continuarán usando software de monitoreo de estudiantes, 5 puntos porcentuales más que el año pasado. Al mismo tiempo, el vuelco de Roe contra Wade ha generado nuevas preocupaciones sobre la vigilancia digital en los estados que han declarado ilegales los servicios de aborto. Las propuestas dirigidas a los jóvenes LGBTQ, como los llamados del gobernador de Texas para investigar a las familias de los niños que buscan atención de afirmación de género, generan preocupaciones adicionales sobre cómo los datos recopilados a través de los dispositivos proporcionados por las escuelas podrían convertirse en armas en septiembre.
El informe del CDT también revela cómo el software de monitoreo puede reducir la distancia entre las aulas y los sistemas penitenciarios. Cuarenta y cuatro por ciento de los maestros informaron que al menos un estudiante en su escuela ha sido contactado por la policía como resultado de comportamientos señalados por el software de monitoreo. Y el 37 por ciento de los maestros que dicen que su escuela usa el monitoreo de actividades fuera del horario regular informan que tales alertas están dirigidas a «un tercero enfocado en la seguridad pública» (por ejemplo, el departamento de policía local, la policía de inmigración). “Las escuelas han institucionalizado y convertido en rutina el acceso de las fuerzas del orden público a la información de los estudiantes”, dice Elizabeth Laird, directora de equidad en tecnología cívica del CDT.
Los senadores estadounidenses Elizabeth Warren y Ed Markey expresaron recientemente su preocupación por la facilitación del contacto del software con las fuerzas del orden, sugiriendo que los productos también pueden usarse para criminalizar a los estudiantes que buscan recursos de salud reproductiva en dispositivos proporcionados por la escuela. Los senadores han buscado respuestas de cuatro importantes empresas de monitoreo: GoGuardian, Gaggle, Securly y Bark for Schools, que juntas llegan a miles de distritos escolares y millones de estudiantes estadounidenses.
Las preocupaciones generalizadas sobre la salud mental de los adolescentes y la violencia escolar dan un telón de fondo sombrío a la temporada de regreso a clases. Después del tiroteo masivo en una escuela primaria en Uvalde, Texas, el Congreso aprobó una ley que asigna $300 millones a las escuelas para fortalecer la infraestructura de seguridad. Las empresas de monitoreo hablan de los temores de los educadores, a menudo promocionando la capacidad de sus productos para concentrarse en los posibles atacantes de los estudiantes. El sitio web de Securly ofrece a los educadores «Información impulsada por IA sobre la actividad de los estudiantes para archivos de correo electrónico, Google Drive y Microsoft OneDrive». Los invita a “abordar la seguridad de los estudiantes desde todos los ángulos, en todas las plataformas, e identificar a los estudiantes que pueden estar en riesgo de hacerse daño a sí mismos o a los demás”.
Nos vemos después de clase
Antes de Hueva La decisión llamó más la atención sobre los riesgos de la vigilancia digital, los legisladores y los defensores de la privacidad ya estaban preocupados por el software de monitoreo de estudiantes. En marzo de 2022, una investigación dirigida por los senadores Warren y Markey descubrió que las cuatro empresas antes mencionadas, que venden servicios digitales de monitoreo de estudiantes a escuelas K-12, plantearon «preocupaciones significativas sobre privacidad y equidad». La investigación señaló que los estudiantes de bajos ingresos (que tienden a ser desproporcionadamente negros e hispanos) dependen más de los dispositivos escolares y están expuestos a más vigilancia que los estudiantes acaudalados; también descubrió que las escuelas y las empresas a menudo no estaban obligadas a revelar el uso y el alcance de su monitoreo a los estudiantes y padres. En algunos casos, los distritos pueden optar por que una empresa envíe alertas directamente a la policía en lugar de a un contacto escolar.
Los estudiantes a menudo no saben que sus monitores de sala de IA son imperfectos y pueden ser mal utilizados. Una investigación realizada por The 74 Million descubrió que Gaggle enviaba a los estudiantes correos electrónicos de advertencia por contenido inofensivo, como blasfemias en una presentación de ficción para la revista literaria de la escuela. Un periódico de la escuela secundaria informó que el distrito usó un software de monitoreo para revelar la sexualidad de un estudiante y revelarlo a sus padres. (El informe de CDT de hoy reveló que el 13 por ciento de los estudiantes conocía a alguien que había sido descubierto como resultado del software de monitoreo de estudiantes). El consejo editorial de un periódico estudiantil de Texas argumentó que el uso del software en su escuela podría evitar que los estudiantes busquen apoyo de salud mental.
También son inquietantes los relatos de software de monitoreo que violan la vida de los estudiantes después de la escuela. Un director asociado con el que hablé para esta historia dice que su distrito recibiría alertas por correo electrónico de «Contenido cuestionable» de Gaggle sobre fotos pornográficas y blasfemias de los mensajes de texto de los estudiantes. Pero los estudiantes no enviaban mensajes de texto en sus Chromebooks proporcionados por la escuela. Cuando los administradores investigaron, se enteraron de que mientras los adolescentes estaban en casa, cargaban sus teléfonos conectándolos a sus computadoras portátiles a través de cables USB. Luego, los adolescentes procedieron a tener lo que creían que eran conversaciones privadas a través de mensajes de texto, en algunos casos intercambiando fotos de desnudos con otras personas importantes, todo lo cual podía detectar el software Gaggle que se ejecuta en el Chromebook. Ahora la escuela aconseja a los estudiantes que no conecten sus dispositivos personales a las computadoras portátiles proporcionadas por la escuela.
Esta vigilancia generalizada siempre ha desconcertado a los defensores de la privacidad, pero la criminalización de la atención de la salud reproductiva en algunos estados agudiza esos problemas. No es difícil imaginar a una estudiante que vive en un estado donde interrumpir un embarazo es ilegal usando un motor de búsqueda para encontrar clínicas de aborto fuera del estado o chateando en línea con un amigo sobre un embarazo no planeado. A partir de ahí, los maestros y los administradores podrían encargarse de informar a los padres del estudiante oa la policía local.