Siga o Olhar Digital no Google Discover
Atenção: a matéria a seguir inclui uma discussão sobre suicídio. Se você ou alguém que você conhece precisar de ajuda, procure ajuda especializada. O Centro de Valorização da Vida (CVV) funciona 24h por dia pelo telefone 188. Também é possível conversar por chat ou e-mail.
Ofertas
Por: R$ 50,10
Por: R$ 67,95
Por: R$ 10,90
Por: R$ 2.069,90
Por: R$ 56,60
Por: R$ 75,85
Por: R$ 334,32
Por: R$ 15.522,79
Por: R$ 49,90
Por: R$ 140,00
Por: R$ 178,49
Por: R$ 198,99
Por: R$ 3.999,00
Por: R$ 160,65
Por: R$ 187,00
Por: R$ 209,90
Por: R$ 166,19
Por: R$ 330,00
Após a morte de Adam Raine, um jovem de 16 anos que teria recebido incentivo do ChatGPT em conversas sobre suicídio, a OpenAI anunciou que lançará controles parentais e estuda novas salvaguardas para seu chatbot.
A decisão veio após críticas intensas e uma ação judicial movida pela família do adolescente contra a empresa e seu CEO, Sam Altman.
O processo contra a OpenAI
De acordo com a ação apresentada em São Francisco, o ChatGPT teria fornecido instruções para o suicídio e afastado Adam de redes de apoio reais.
O processo afirma que a IA se tornou seu “confidente mais próximo”, validando inclusive pensamentos autodestrutivos. Em algumas conversas, o chatbot chegou a usar termos como “belo suicídio” e até se ofereceu para redigir uma nota de despedida.
A família acusa a OpenAI de negligência, alegando que a ferramenta reforçou a angústia do adolescente em vez de direcioná-lo para ajuda humana.
Leia mais:
- OpenAI pode se tornar a empresa de capital fechado mais valiosa do mundo
- 5 prompts para descobrir o que o ChatGPT sabe sobre você
- OpenAI terá um escritório na Índia – segundo maior mercado do ChatGPT
Reconhecimento de falhas no sistema
Em publicação no blog, a OpenAI reconheceu que suas salvaguardas “podem falhar em interações longas”. Segundo a empresa, embora o ChatGPT costume indicar linhas de apoio em menções iniciais ao suicídio, esse comportamento de segurança pode se deteriorar com trocas prolongadas.
A companhia afirmou que está trabalhando em novos recursos de segurança no GPT-5, capazes de trazer os usuários “de volta à realidade” em situações críticas.
Novas medidas e próximos passos
- Controles parentais, que permitirão aos responsáveis moldar o uso do ChatGPT por adolescentes.
- Contatos de emergência confiáveis, que poderão ser acionados pelo chatbot em situações graves.
- Opção de integração com linhas de ajuda, com mensagens ou chamadas rápidas.
A OpenAI declarou que seu objetivo é tornar o ChatGPT capaz de não apenas indicar recursos, mas também conectar jovens em risco diretamente a alguém que possa intervir.
Tags: