As escolas usam IA para monitorar as atividades on-line dos alunos, levando a alarmes e prisões falsos. Schools use AI to monitor students' online activities, leading to false alarms and arrests.

Escolas nos EUA estão usando software de vigilância de IA, como Gaggle e Lightspeed Alert, para monitorar as atividades online dos alunos, com o objetivo de evitar automutilação ou ameaças. Schools across the US are using AI surveillance software like Gaggle and Lightspeed Alert to monitor students' online activities, aiming to prevent self-harm or threats. No entanto, essa tecnologia levou a falsos alarmes e prisões, como uma menina de 13 anos do Tennessee que foi presa por fazer uma piada ofensiva online. However, this technology has led to false alarms and arrests, such as a 13-year-old Tennessee girl who was arrested for making an offensive joke online. Os críticos argumentam que os sistemas podem criminalizar as crianças por palavras descuidadas, levantando preocupações sobre a privacidade e o papel da aplicação da lei nas escolas. Critics argue the systems can criminalize children for careless words, raising concerns about privacy and the role of law enforcement in schools.