O caso, que aconteceu no final de setembro, foi divulgado pelas autoridades como um alerta aos pais. Em suas contas do Facebook e do Instagram, a delegacia local compartilha diversos casos em que adolescentes foram presos por ameaçarem matar colegas ou levar armas para a escola, por exemplo.

Mais uma ‘piada’ que criou uma emergência no campus. Pais, por favor, conversem com seus filhos para que eles não cometam o mesmo erro. Delegacia de Volusia, em seus perfis nas redes sociais

Plataforma monitora atividades virtuais de estudantes

A Gaggle verifica contas emitidas pela escola e sinaliza conteúdos considerados “preocupantes”. Utilizando inteligência artificial, a ferramenta escaneia documentos e e-mails dos alunos dos ensinos fundamental e médio em busca de sinais de comportamento inseguro.

Segundo reportagem do jornal The Washington Post, o sistema tem parcerias com cerca de 1.500 distritos escolares em todo o país. Entre os temas que podem gerar alertas no Gaggle, estão mensagens sobre abuso de substâncias, ameaças de violência, de automutilação, agressão sexual, cyberbullying e problemas de saúde mental, como depressão. Ao detectar estes conteúdos, o sistema pode excluir a mensagem ou reportar o episódio à equipe da escola envolvida.

Segundo relatos dos estudantes, o sistema pode apresentar falhas. Segundo o The Washington Post, alunos da Lawrence High, no Kansas, relatam que o sistema apagou parte do portfólio de um estudante de arte —com fotos de meninas vestindo regatas—, após sinalizar erroneamente o conteúdo como pornografia infantil. Outro aluno da mesma escola foi questionado pela coordenação após escrever que “iria morrer” após realizar um teste de aptidão física calçando Crocs. Na mesma escola, no entanto, o programa permitiu que a equipe responsável agisse em diversos casos em que os alunos corriam risco de suicídio.