Quando chatbots falham: os riscos da IA na saúde mental

Tudo sobre Inteligência Artificial

Um grande perigo ronda muitas casas: cada vez mais adolescentes recorrem a chatbots de IA para lidar com questões de saúde mental, alerta o The Wall Street Journal. Um novo estudo da Common Sense Media e Stanford Medicine mostra como essa prática pode ser prejudicial.

Ofertas

Vendido por Amazon

Agenda 2026 Coleção Happy Com Capa Dura Círculos Colors

Por R$ 45,90

Vendido por Amazon

Suporte para 2 Controles de PlayStation 5 PS5, Apoio de Mesa Gamer, Modelo VN

De: R$ 39,92
Por: R$ 37,92

Vendido por Amazon

Pasta Sanfonada DAC A4 Com 12 Divisões All Black Preto

De: R$ 27,90
Por: R$ 22,59

Vendido por Amazon

Carregador Fonte para Notebook Asus 19V 2.37A 45W com Pino Fino 4.0x1.35mm, compatível com VivoBook X543ua X543ma X515 X512 X510U ZenBook 14 UX433FA UX431FA X512F, referência Ad2108020 bivolt

De: R$ 67,44
Por: R$ 59,95

Vendido por Amazon

Garmin Relógio Venu 3 Branco 45mm com Monitor Cardíaco de Pulso e GPS

De: R$ 4.699,00
Por: R$ 3.099,00

Vendido por Amazon

eufy Câmera S3 Pro Kit 2+1 por anker, Câmera De Segurança Wi-Fi Externa Sem Fio, 4K, Energia Solar, Visão Noturna MaxColor, Reconhecimento Facial por IA, Compatível com Alexa, Sem taxas mensais

De: R$ 3.499,00
Por: R$ 3.324,00

Vendido por Amazon

eufy HomeBase3, Câmera de segurança, Reconhecimento Facial por IA, Armazenamento Local Expansível até 16TB, Criptografia Avançada, Ecossistema de Segurança eufy, Sem taxas mensais

De: R$ 1.049,00
Por: R$ 799,00

Vendido por Amazon

Bettdow SmartWatch, Relogio Smartwatch Feminino, 1.27" Ecrã tátil, à prova d'água IP68, 100+ Modos Esportivos, chamada Bluetooth, Compatível com Android iOS, voz por IA (Azul)

De: R$ 299,00
Por: R$ 241,44

Vendido por Amazon

Combo Teclado e Mouse sem fio Logitech POP Icon com Teclas e Botões Personalizáveis, Clique Silencioso, Easy-Switch para até 3 dispositivos e Conexão Bluetooth - Grafite

De: R$ 499,90
Por: R$ 388,78

Vendido por Amazon

eufy Câmera S330 (eufyCam 3) 2-Cam Kit por anker, Câmera De Segurança Wi-Fi Externa Sem Fio, 4K, Painel Solar, Forever Power, Reconhecimento Facial IA, Armazenamento Local Até 16TB, Sem Taxa Mensal

De: R$ 2.399,00
Por: R$ 2.159,00

Vendido por Amazon

soundcore Select 4 Go da Anker, Alto-Falante Bluetooth Portátil, 20H de Bateria, IP67 à Prova d'Água e Poeira, Flutuante, Som Potente, Ideal para Ambientes Internos, Externos e Passeios

De: R$ 339,00
Por: R$ 188,99

Vendido por Amazon

WB Smart Tag Localizador Bluetooth, Rastreador Compatível com o Apple Find My, bateria substituível, Localizador de itens para bolsas

De: R$ 88,00
Por: R$ 45,00

Vendido por Amazon

Anker Nano Carregador Portátil, Power Bank Compacto 10000mAh 45W Máx., Bateria Portátil Essencial para Viagens com Cabo Retrátil InstaCord de 70 cm para iPhone 17/16 Series, iPad, Galaxy, Pixel e Mais

De: R$ 399,00
Por: R$ 379,00

Vendido por Amazon

Capa com Teclado Combo Touch para iPad (10ª geração e A16) Com Teclado Retroiluminado Destacável com Suporte, Trackpad Preciso e Tecnologia Smart Connector - Cinza

De: R$ 1.629,90
Por: R$ 1.239,90

Vendido por Amazon

ULANZI VL-200Bi 200W luz de estúdio bicolor, luz de preenchimento COB, iluminação de saída contínua com controle de APP, 2700K-6500K, 6 cenas, montagem Bowens

De: R$ 1.179,00
Por: R$ 943,20

Vendido por Amazon

eufy Câmera S350, Camera de Segurança Wi-Fi, 4K Inteligente com Câmera Dupla, Visão 360°, Zoom 8×, Visão Noturna, Babá Eletrônica, Rastreamento por IA, Compatível com Alexa e HomeBase 3

De: R$ 999,00
Por: R$ 798,99

Vendido por Amazon

WAAW By ALOK Fone de Ouvido Bluetooth SENSE 310 Com Cancelamento de Ruído e Assistente de Voz, 30h de Bateria

De: R$ 329,90
Por: R$ 200,29

Vendido por Amazon

WAAW by ALOK Caixa de Som US 200SB DUO Bluetooth 2 em 1, Resistente à Água, Acabamento Metálico, TWS, 20W RMS

De: R$ 599,90
Por: R$ 476,10

Vendido por Amazon

Eufy Cam E340 Câmera De Segurança Wi-Fi Dual Band (2.4/5GHz) Exterior, 360° PTZ, Gravação 24/7, 2000 Lúmens, Detecção de Movimento + Sirene Integrada, Câmera Dupla, Sem Taxa Mensal, Branco

De: R$ 1.199,00
Por: R$ 1.139,05

Vendido por Amazon

Novo Kindle Paperwhite Signature Edition (32 GB) - O Kindle mais rápido já lançado, com luz frontal autoadaptável, carregamento sem fio e bateria que dura semanas - Cor Preta Metálica

De: R$ 1.199,00
Por: R$ 949,00

Vendido por Amazon

Combo Teclado e Mouse Sem Fio Logitech MK250 Bluetooth com Conectividade Rápida e Fácil, Design Compacto, Mouse Ambidestro, Layout ABNT2, Construção Durável, Compatível com PC e Mac - Rosa

De: R$ 169,90
Por: R$ 155,44

Vendido por Amazon

Combo Teclado e Mouse sem fio Logitech MK235 com Conexão USB, Pilhas Inclusas e Layout ABNT2

De: R$ 149,90
Por: R$ 119,90

Vendido por Amazon

Anker MagGo Power Bank, Carregador Portátil com Certificação Qi2 de 15W, Compatível com MagSafe, 10.000mAh, Tela Inteligente e Suporte Dobrável, para iPhone 17/15/14/13/12, Inclui Cabo USB-C, Branco

De: R$ 699,00
Por: R$ 398,99

Vendido por Amazon

Mouse Sem Fio Logitech M330 SILENT com Clique Silencioso, Design Destro, Bateria de 18 Meses, Receptor USB, Compatível com Windows, macOS, ChromeOS e Pilha Inclusa - Preto

De: R$ 109,90
Por: R$ 79,90

Vendido por Amazon

Webcam Full HD Logitech Brio 100 com Microfone Integrado, Proteção de Privacidade, Correção Automática de Luz e Conexão USB-C - Grafite

De: R$ 299,90
Por: R$ 199,90

Embora pareçam competentes em algumas situações, essas ferramentas podem deixar passar sinais críticos e falhar na detecção de emergências psiquiátricas, colocando os jovens em risco.

*Uso de IA para apoio emocional por adolescentes preocupa especialistas por falhas na identificação de emergências. Imagem: Tada Images / Shutterstock.com*

Falhas graves na detecção de sinais críticos

Pesquisadores avaliaram quatro chatbots de IA líderes de mercado – ChatGPT da OpenAI, Claude da Anthropic, Gemini do Google e Meta AI – simulando interações com adolescentes.

O estudo revelou que todas as plataformas falharam em reconhecer sinais de:

Alucinações e pensamentos paranoicos.
Comportamentos alimentares desordenados.
Sintomas maníacos e depressivos.
Automutilação.
Necessidade de encaminhamento urgente para ajuda profissional.

Quando essas vulnerabilidades normais do desenvolvimento encontram sistemas de IA projetados para serem envolventes, validantes e disponíveis 24 horas por dia, 7 dias por semana, a combinação é particularmente perigosa.
Dra. Nina Vasan, diretora do Laboratório Brainstorm da Stanford Medicine, ao WSJ.

Muitos adolescentes acabam presumindo que os chatbots são confiáveis, mas, na prática, a tecnologia ainda falha ao identificar riscos críticos de maneira consistente.

*Mesmo disponíveis 24h, chatbots não substituem profissionais: riscos críticos podem passar despercebidos. Imagem:TippaPatt/Shutterstock*

O que as empresas estão fazendo?

As empresas responsáveis pelos chatbots têm implementado medidas para reduzir os riscos enfrentados pelos adolescentes. A OpenAI afirmou que trabalha em colaboração com médicos, legisladores e pesquisadores para direcionar usuários menores de 19 anos a modelos diferentes, buscando maior proteção.

O Google, responsável pelo Gemini, possui políticas de segurança específicas para menores e conta com equipes dedicadas à pesquisa de novos riscos e à implementação de medidas de segurança infantil.

A Meta, por sua vez, destacou que já atualizou sua IA para lidar melhor com questões sensíveis, reforçando o acompanhamento de usuários vulneráveis. Já a Anthropic deixou claro que seus sistemas não foram projetados para menores e conta com regras que proíbem o uso por pessoas com menos de 18 anos.

Mesmo com essas atualizações, Robbie Torney, diretor sênior de programas de IA da Common Sense Media, alerta que os chatbots ainda não são totalmente seguros para adolescentes.

*IA oscila entre papéis de coach, amigo ou enciclopédia, mas a falta de acesso a serviços de saúde mental também é um agravante do problema. Imagem: mooremedia/Shutterstock*

Chatbots de IA como uma companhia

Adolescentes recorrem aos chatbots não apenas por curiosidade, mas também pela falta de acesso a serviços de saúde mental. Um participante relatou ao WSJ estar “na lista de espera para terapia há quase dois anos e é isso que uso [o chatbot] para lidar com a situação.”

Leia mais:

O estudo mostrou que, embora respostas breves possam ser adequadas, interações mais longas revelam que os chatbots não conseguem discernir riscos sérios. Em alguns casos, chegaram a dar dicas inadequadas sobre automutilização ou transtornos alimentares, tentando manter o engajamento do usuário.

Além disso, a IA alterna entre diferentes papéis — às vezes funciona como enciclopédia médica, outras como coach ou amigo — sem conseguir orientar firmemente os adolescentes a procurarem ajuda de adultos confiáveis. Infelizmente, pelo menos três adolescentes chegaram a perder a vida ao usarem chatbots como companhia e fonte de apoio emocional.