Em um mundo cada vez mais digital, a interação de crianças e adolescentes com a inteligência artificial exige um cuidado redobrado. O que antes parecia apenas uma ferramenta educativa ou de entretenimento hoje pode se transformar em um espaço de riscos, especialmente quando usado sem supervisão.
Um caso recente nos Estados Unidos reforçou essa preocupação: um adolescente de 13 anos foi detido após fazer uma pergunta extremamente inadequada ao ChatGPT.
De acordo com as autoridades do estado da Flórida, o jovem estudava na Southwestern Middle School e usava o sistema de monitoramento escolar chamado Gaggle, uma tecnologia capaz de detectar mensagens potencialmente perigosas.
Foi esse programa que acionou a polícia ao identificar que o estudante havia perguntado à IA “como matar um amigo”. Ao ser interrogado, o garoto afirmou que a mensagem era “uma brincadeira” e que pretendia apenas “trollar” um colega que o irritava.
Mesmo assim, a situação foi tratada com seriedade. O aluno foi encaminhado ao setor de custódia de menores, onde poderá permanecer sob supervisão por até 21 dias, conforme decisão judicial.
Segundo o relatório policial, ele não tinha acesso a armas nem intenção real de violência, mas o episódio foi classificado como um alerta sobre o uso irresponsável da tecnologia.
O Gaggle, ferramenta usada em milhares de escolas americanas, analisa atividades virtuais em busca de sinais de depressão, automutilação, cyberbullying ou ameaças.
Educadores defendem que o sistema ajuda a prevenir tragédias, mas críticos argumentam que ele pode invadir a privacidade e transformar deslizes em problemas criminais.
Esse caso serve de reflexão para pais, professores e autoridades: a tecnologia não substitui a orientação humana. Conversar com os jovens sobre limites e responsabilidade digital é essencial para garantir que a IA seja um apoio à educação e não uma fonte de mal-entendidos que podem mudar vidas em segundos.
