Siga o Olhar Digital no Google Discover
Uma profissional de saúde de 26 anos foi internada num hospital psiquiátrico na Califórnia (EUA) após acreditar que conversava com seu irmão morto no ChatGPT. O caso foi relatado por pesquisadores da Universidade da Califórnia em São Francisco (UCSF) e mostra como o uso intenso de inteligência artificial (IA) generativa pode causar ou piorar um quadro de psicose.
A mulher não tinha histórico de doenças mentais graves, mas estava há 36 horas sem dormir devido ao trabalho quando começou a conversar com o ChatGPT. Durante a crise, a IA validou delírios dela com frases como “você não está louca”. E alimentou a ideia de que ela estava perto de fazer uma descoberta importante sobre o irmão falecido.
Ferramentas como o ChatGPT refletem ideias do usuário como se fosse um espelho, mas tendem a ser bajuladoras
A crise começou quando a paciente pediu que o ChatGPT usasse “energia de realismo mágico” para encontrar seu irmão, um engenheiro de software que morreu há três anos. O sistema chegou a citar ferramentas de “ressurreição digital“, o que reforçou a crença da mulher de que ele havia deixado um rastro para ser achado. Especialistas explicam que a IA não entende a realidade e tende a ser bajuladora. Ou seja, a tecnologia concorda com o que o usuário diz para agradá-lo.
No hospital, a paciente apresentava confusão mental, agitação e falava muito rápido. Ela foi tratada com remédios antipsicóticos e melhorou em uma semana, mas teve uma recaída três meses depois ao ficar sem dormir novamente e voltar a usar a IA. Médicos diagnosticaram psicose não especificada, agravada pela privação de sono e pelo uso de remédios estimulantes para TDAH.
Conversar com ferramentas como o ChatGPT é comparado a um diálogo interno complexo, no qual a pessoa conversa consigo mesma de forma elaborada. No caso da profissional de saúde, a tecnologia não criou a doença, mas serviu como gatilho emocional num momento de fragilidade. O caso serve de alerta sobre a necessidade de ter cuidado com o uso exagerado dessas ferramentas. E a importância de manter o sono em dia.
(Essa matéria usou informações de Innovations in Clinical Neuroscience e Live Science.)
Tags: