O CEO da OpenAI, Sam Altman, anunciou uma série de novas políticas para usuários menores de idade, focadas em aumentar a segurança em tópicos sensíveis, mesmo que isso limite liberdade e privacidade.
Segundo a nova política, o ChatGPT não se envolverá mais em diálogos de flerte com usuários menores de idade e estabelecerá barreiras adicionais em discussões sobre suicídio ou automutilação. Em casos graves, o serviço tentará contatar os pais ou, se necessário, a polícia local.
As medidas surgem em meio a processos judiciais, como o movido pelos pais de Adam Raine, que cometeu suicídio após interações com o ChatGPT. Casos similares têm gerado preocupação com a ilusão gerada por chatbots e o impacto em adolescentes.
Leia mais:
- OpenAI pode se tornar a empresa de capital fechado mais valiosa do mundo
- 5 prompts para descobrir o que o ChatGPT sabe sobre você
- OpenAI terá um escritório na Índia – segundo maior mercado do ChatGPT
Controle parental e horários de uso
Pais que registrarem contas para adolescentes poderão definir horários de bloqueio, limitando quando o ChatGPT estará disponível — um recurso inédito. A OpenAI também trabalha em um sistema para identificar se o usuário tem menos de 18 anos, adotando regras mais restritivas em casos ambíguos.
Privacidade e liberdade para adultos
- Altman destacou que essas restrições não se aplicam a usuários adultos, mantendo ampla liberdade de interação.
- Segundo ele, a empresa reconhece o conflito entre proteção de menores e privacidade, e nem todos concordarão com as escolhas feitas.
- O anúncio coincide com a audiência do Comitê Judiciário do Senado sobre danos de chatbots de IA, na qual familiares de vítimas e especialistas discutirão riscos e responsabilidades, reforçando a pressão pública sobre a OpenAI e outras empresas do setor.
Tags: