Miles de escuelas estadounidenses están recurriendo a la tecnología de vigilancia con IA para la monitorización 24/7 de las cuentas de los estudiantes y los dispositivos proporcionados por la escuela, como portátiles y tabletas.

El objetivo es mantener a los niños seguros, especialmente en medio de una crisis de salud mental y la amenaza de tiroteos escolares. Los algoritmos de aprendizaje automático detectan posibles indicadores de problemas como el acoso escolar, las autolesiones o el suicidio y alertan a las autoridades escolares.

Sin embargo, estas herramientas plantean serias dudas sobre la privacidad y la seguridad. De hecho, cuando The Seattle Times y The Associated Press se asociaron para investigar la vigilancia escolar, los periodistas obtuvieron acceso inadvertidamente a casi 3500 documentos estudiantiles sensibles y sin editar a través de una solicitud de registros. Los documentos se almacenaron sin contraseña ni cortafuegos, y cualquiera con el enlace podía leerlos.

A continuación, se presentan las conclusiones clave de la investigación.

Las tecnologías de vigilancia como Gaggle no siempre son seguras. Los riesgos para la privacidad y la seguridad se hicieron evidentes cuando periodistas del Seattle Times y AP presentaron una solicitud de registros públicos a las Escuelas Públicas de Vancouver en Washington, buscando información sobre el tipo de contenido detectado por la herramienta de monitoreo Gaggle. Utilizada por alrededor de 1500 distritos, Gaggle es una de las muchas compañías que ofrecen servicios de vigilancia, como GoGuardian y Securly.

Gaggle guardó capturas de pantalla de la actividad digital que activaron cada alerta. Las autoridades escolares proporcionaron accidentalmente enlaces a las capturas a los periodistas, sin darse cuenta de que no estaban protegidas por contraseña. Los estudiantes que aparecen en estos documentos se sinceraron sobre los aspectos más íntimos de su vida personal, incluyendo intentos de suicidio.

Tras enterarse de la divulgación inadvertida de los registros a los periodistas, Gaggle actualizó su sistema. Ahora, después de 72 horas, solo quienes hayan iniciado sesión en una cuenta de Gaggle pueden ver las capturas de pantalla. Gaggle afirmó que esta función ya estaba en desarrollo, pero que aún no se había implementado para todos los clientes.

La compañía afirma que los enlaces deben ser accesibles sin necesidad de iniciar sesión durante esas 72 horas para que los contactos de emergencia de la escuela, quienes a menudo reciben estas alertas a altas horas de la noche en sus teléfonos, puedan responder rápidamente.

Los efectos a largo plazo de la tecnología de vigilancia en la seguridad no están claros. Ningún estudio independiente ha demostrado que reduzca de forma medible las tasas de suicidio estudiantil ni la violencia. Un informe de RAND de 2023 encontró escasa evidencia de los beneficios o riesgos de la vigilancia mediante inteligencia artificial.

“Si no se cuenta con la cantidad adecuada de consejeros de salud mental, emitir más alertas no mejorará la prevención del suicidio”, afirmó Benjamin Boudreaux, coautor del informe e investigador en ética de la IA.

Los expertos advierten que la privacidad para expresar sentimientos es importante para el desarrollo infantil saludable. Sin embargo, quienes defienden la monitorización digital señalan que las computadoras escolares no son el entorno adecuado para este tipo de autoexploración ilimitada.

En el escrito de apelación, Musk y los demás demandados afirmaron que McCormick aplicó erróneamente un estándar legal muy complejo, conocido como equidad total, para evaluar el paquete salarial.

Llegó a ese estándar al determinar que Musk, quien poseía el 21,9% de las acciones cuando la junta aprobó el paquete salarial, controlaba las negociaciones salariales, según el escrito. Además, determinó erróneamente que las relaciones comerciales ordinarias entre los directores las generaban conflictos y criticó erróneamente la información divulgada por Tesla antes de la votación de los accionistas de 2018, según el escrito.

Aplicar el estándar de equidad en su totalidad equivalía a otorgar una «licencia para demandar» a los accionistas de Tesla, según el escrito. La demanda fue interpuesta por Richard Tornetta, un inversor de Tesla que poseía nueve acciones cuando presentó el caso en 2018. La demanda beneficia a Tesla, no a Tornetta, en lo que se conoce como una demanda derivada.