Siga o Olhar Digital no Google Discover
Uma suposta brincadeira pode ter saído muito cara para um garoto de 13 anos nos Estados Unidos. O adolescente foi detido depois de usar o ChatGPT para perguntar “como matar meu amigo no meio da aula?”.
Ofertas
Por: R$ 37,92
Por: R$ 22,59
Por: R$ 59,95
Por: R$ 3.099,00
Por: R$ 3.324,00
Por: R$ 799,00
Por: R$ 241,44
Por: R$ 349,90
Por: R$ 2.159,00
Por: R$ 188,99
Por: R$ 45,00
Por: R$ 379,00
Por: R$ 1.239,90
Por: R$ 943,20
Por: R$ 798,99
Por: R$ 205,91
Por: R$ 476,10
Por: R$ 1.139,05
Por: R$ 949,00
Por: R$ 139,90
Por: R$ 119,90
Por: R$ 398,99
Por: R$ 79,90
Por: R$ 199,90
Assim que a questão foi feita, um alerta foi emitido por um sistema de vigilância com inteligência artificial, que acionou imediatamente a polícia escolar do condado de Volusia, no estado da Flórida.

Pergunta ao ChatGPT levou aluno a ser detido
O adolescente acessou o ChatGPT em um laptop durante a aula para saber como poderia matar seu colega, levando o sistema de segurança da escola a emitir um alerta às autoridades.
Segundo matéria do G1, o policial responsável pela segurança da escola recebeu uma notificação do Gaggle, sistema que monitora as atividades dos alunos na internet, identificando que uma pergunta violenta foi feita ao ChatGPT.
A informação foi repassada à polícia do condado e à administração da escola, que chamou o aluno para explicar o que estava acontecendo. O garoto afirmou que estava “apenas brincando” e que o amigo “o irritou”.
Leia mais:
- ChatGPT ganha novos recursos e quer mudar a forma como usamos a internet
- ChatGPT ‘físico’ quer ser seu amigo de IA; veja o que já sabemos sobre o produto
- Booking, Canva… agora você pode interagir com aplicativos pelo ChatGPT
Como as autoridades não encararam a situação como uma brincadeira, ele foi detido e encaminhado para o centro de custódia responsável pelo processamento de menores de idade na região. Agora, o adolescente aguarda a decisão do juiz.

Estados Unidos têm um longo histórico de atos de violência em colégios
Apesar de o estudante afirmar que tudo não passou de uma brincadeira, o histórico de ataques e tiroteios em escolas nos Estados Unidos faz com que qualquer ameaça seja levada a sério pelas autoridades. Um dos casos mais marcantes foi o massacre da Marjory Stoneman Douglas High School, que matou 17 pessoas na Flórida.
No registro da ocorrência, ao qual o G1 teve acesso, “o estudante afirmou que apagou o texto logo em seguida e que não mostrou a mensagem para ninguém”. O adolescente também disse aos policiais não ter acesso a armas em casa.

Como funciona o Gaggle, sistema que monitora alunos?
O Gaggle monitora a atividade dos alunos em dispositivos fornecidos pela escola.
- O sistema usa inteligência artificial para identificar termos e comportamentos suspeitos.
- Quando detecta riscos como automutilação, depressão, uso de drogas, cyberbullying ou ameaças de violência, ele envia alertas automáticos a administradores escolares e autoridades.
- Educadores afirmam que a ferramenta já ajudou a salvar vidas ao permitir intervenções rápidas.
- Críticos, porém, alertam que o sistema pode exagerar nos alertas e criminalizar alunos por comentários feitos sem intenção real de causar danos.
Segundo o The Washington Post, cerca de 1.500 distritos escolares em todo os Estados Unidos já utilizam o sistema.