Os pais de uma adolescente de 13 anos estão processando o Google nos Estados Unidos após descobrirem que a filha passou meses conversando com ferramentas de inteligência artificial (IA) da empresa sobre depressão, automutilação e suicídio. A família acusa a companhia de expor crianças a riscos psicológicos sem oferecer alertas adequados aos responsáveis e às instituições de ensino.
O caso aconteceu na Carolina do Norte (EUA), onde a estudante utilizava um Chromebook fornecido pela escola. Segundo a ação judicial, apresentada em um tribunal da Califórnia (EUA), a jovem trocou milhares de mensagens com ferramentas de IA do Google, principalmente o Gemini e o Modo IA integrado à Busca.
Identificada pelo pseudônimo Emma no processo, a adolescente começou a utilizar os recursos para tirar dúvidas escolares no segundo semestre de 2025. Entretanto, o volume de interações aumentou significativamente em dezembro, período que coincidiu com a disponibilização do modelo Gemini 3 Flash.
De acordo com os pais, as conversas passaram a abordar questões pessoais, incluindo ansiedade, depressão, transtornos alimentares e diferentes métodos de suicídio.
A denúncia também afirma que a IA orientou a menina sobre como esconder sinais de automutilação dos familiares e de outras pessoas próximas.
A família sustenta que o Google incorporou ferramentas generativas aos produtos utilizados por estudantes sem apresentar informações claras sobre os riscos envolvidos. Os responsáveis também questionam a falta de mecanismos capazes de identificar situações de sofrimento psicológico e alertar adultos responsáveis.
Como os pais descobriram as conversas?
- Segundo informações da Reuters e da Bloomberg, a família só tomou conhecimento da situação depois que um sistema de monitoramento da escola identificou um documento escrito pela adolescente com referências ao próprio funeral;
- O alerta permitiu que os responsáveis descobrissem a gravidade do conteúdo produzido pela estudante;
- A denúncia afirma que a escola levou semanas para identificar os registros e comunicar os pais, que desconheciam a utilização do computador escolar para conversas sobre sofrimento psicológico;
- Outro ponto levantado pela família envolve o acesso ao histórico das interações. Segundo a ação, contas escolares não oferecem aos responsáveis a mesma possibilidade de consultar integralmente o histórico de conversas disponível em contas pessoais;
- Com isso, os pais afirmam ter encontrado dificuldades para reconstruir o que aconteceu durante os meses de utilização das ferramentas;
- O processo busca responsabilizar o Google pelos danos alegados e pede indenização financeira. A empresa informou que está analisando as acusações.
Leia mais:
- ChatGPT ganha ferramenta para criar e editar GIFs
- Startup chinesa tenta contornar restrições dos EUA para acessar chips da Nvidia
- Claude agora pode acessar contas bancárias para analisar gastos
Google muda regras para IA nas escolas
O processo chega em momento de crescente pressão sobre o uso de IA em instituições de ensino.
Nesta semana, o Google anunciou mudanças nas configurações de suas ferramentas para contas escolares. A empresa pretende desativar o Gemini por padrão para estudantes, permitindo que instituições de ensino decidam se desejam manter o acesso.
A medida também envolve recursos de IA incorporados à Busca, como resumos gerados automaticamente. Segundo a Reuters, escolas que quiserem preservar o acesso dos alunos ao mecanismo de pesquisa ainda precisarão lidar com a presença dessas funcionalidades.
O debate não se limita ao caso da adolescente. Uma pesquisa da organização Common Sense Media já havia apontado riscos relacionados ao uso de ferramentas de IA por crianças e adolescentes. Entre as preocupações estão a dificuldade dos sistemas em identificar sinais indiretos de pensamentos suicidas e a possibilidade de respostas que normalizem comportamentos associados a transtornos alimentares.
Especialistas também alertam que conversas prolongadas com chatbots podem criar falsa sensação de acolhimento. Com isso, crianças e adolescentes podem acreditar que estão recebendo apoio suficiente e demorar a procurar ajuda de familiares ou profissionais especializados.
Segurança de chatbots volta ao centro do debate
O processo contra o Google se soma a outras ações judiciais que questionam a responsabilidade de empresas de tecnologia sobre os efeitos de seus chatbots.
Em 2025, os pais do adolescente Adam Raine processaram a OpenAI, alegando que o ChatGPT contribuiu para a morte do filho, de 16 anos, ao fornecer informações relacionadas a métodos de suicídio.
A Character.AI também enfrentou processos após a morte de Sewell Setzer III, de 14 anos, que desenvolveu relação emocional com um personagem controlado por IA.
Em janeiro de 2026, Google e Character.AI concordaram em princípio em encerrar diversas ações judiciais relacionadas a esses casos, sem que isso representasse necessariamente uma admissão de responsabilidade.
As novas acusações reforçam o debate sobre os limites da IA em ambientes frequentados por menores de idade, especialmente quando as ferramentas passam a ser utilizadas como confidentes para questões emocionais e psicológicas.
Rodrigo Mozelli é jornalista formado pela Universidade Metodista de São Paulo (UMESP) e, atualmente, é redator do Olhar Digital.
