Un estudiante preguntó en un motor de búsqueda: «¿Por qué me pega mi novio?». Otro amenazó con suicidarse en un correo electrónico a un amor no correspondido. Un adolescente gay se sinceró en un diario en línea sobre sus dificultades con padres homofóbicos, escribiendo que solo quería ser él mismo.

En cada caso, y en miles más, un software de vigilancia impulsado por inteligencia artificial alertó de inmediato al personal de las Escuelas Públicas de Vancouver en el estado de Washington.

Vancouver y muchos otros distritos del país han recurrido a la tecnología para monitorear los dispositivos proporcionados por las escuelas las 24 horas del día, los 7 días de la semana, en busca de cualquier señal de peligro mientras lidian con una crisis de salud mental estudiantil y la amenaza de tiroteos.

El objetivo es mantener a los niños seguros, pero estas herramientas plantean serias dudas sobre la privacidad y la seguridad, como se demostró cuando periodistas del Seattle Times y Associated Press obtuvieron acceso inadvertidamente a casi 3500 documentos estudiantiles sensibles y sin editar a través de una solicitud de registros sobre la tecnología de vigilancia del distrito.

El Colaborativo de Reportajes Educativos, una coalición de ocho salas de redacción, investiga las consecuencias no deseadas de la vigilancia con IA en las escuelas. Los miembros del Colaborativo son AL.com, The Associated Press, The Christian Science Monitor, The Dallas Morning News, The Hechinger Report, Idaho Education News, The Post and Courier de Carolina del Sur y The Seattle Times.

Los documentos publicados muestran que los estudiantes usan estas computadoras portátiles para algo más que tareas escolares; también enfrentan la angustia en sus vidas personales.

Los estudiantes escribieron sobre depresión, desamor, suicidio, adicción, acoso escolar y trastornos alimentarios. Hay poemas, ensayos universitarios y extractos de sesiones de juego de roles con chatbots de IA.

El personal escolar de Vancouver y cualquier otra persona con enlaces a los archivos podían leer todo. Los firewalls o las contraseñas no protegían los documentos, y los nombres de los estudiantes no se censuraban, lo que, según advirtieron expertos en ciberseguridad, representaba un grave riesgo para la seguridad.

Las herramientas de monitoreo a menudo ayudaban a los orientadores a contactar con estudiantes que, de otro modo, habrían tenido dificultades en silencio. Pero el caso de Vancouver es un duro recordatorio de las consecuencias no deseadas de la tecnología de vigilancia en las escuelas estadounidenses.

En algunos casos, esta tecnología ha revelado la identidad de menores LGBTQ+ y ha erosionado la confianza entre estudiantes y personal escolar, sin lograr mantener las escuelas completamente seguras.

Gaggle Safety Management, la empresa que desarrolló el software que rastrea la actividad en línea de los estudiantes de las escuelas de Vancouver, cree que no monitorear a los niños es como dejarlos sueltos en «un patio de recreo digital sin vallas ni monitores de recreo», declaró su director ejecutivo y fundador, Jeff Patterson.

Aproximadamente 1500 distritos escolares de todo el país utilizan el software de Gaggle para rastrear la actividad en línea de aproximadamente 6 millones de estudiantes. Es una de las muchas empresas, como GoGuardian y Securly, que prometen mantener a los niños seguros mediante la vigilancia web asistida por IA.

Esta tecnología ha tenido una gran demanda desde la pandemia, cuando casi todos los niños recibieron una tableta o computadora portátil proporcionada por la escuela. Según una investigación del Senado de EE. UU., más de 7000 escuelas o distritos utilizaron los productos de vigilancia de GoGuardian en 2021.