A OpenAI vai incluir um novo sistema no ChatGPT para estimar a idade de usuários e, assim, restringir interações potencialmente prejudiciais a menores de 18 anos. Isso inclui o bloqueio de conteúdo sexual gráfico e conversas com teor sexual. Além disso, a plataforma poderá acionar autoridades policiais em “casos raros de sofrimento agudo”.
As medidas estão em uma carta assinada pelo CEO Sam Altman intitulada “Segurança, liberdade e privacidade para adolescentes”. “Percebemos que esses princípios estão em conflito e que nem todos concordarão com a forma como estamos resolvendo esse conflito. São decisões difíceis, mas, após conversar com especialistas, é o que consideramos melhor e queremos ser transparentes em nossas intenções.”
A empresa já vinha sendo pressionada por pais, responsáveis e entidades da sociedade civil para aumentar o controle sobre o chatbot, especialmente após o caso Adam Raine. Os pais do jovem de 16 anos acusam a IA de incentivar o suicídio do rapaz, levando o processo para análise de um tribunal na Califórnia, nos Estados Unidos.
Como vai funcionar?
A OpenAI diz que está construindo um sistema de longo prazo para entender se alguém tem mais ou menos de 18 anos, indicando que a tecnologia deve receber atualizações. Ao identificar que um usuário é menor de idade, ele será automaticamente direcionado para uma experiência com políticas adequadas à idade.
“Isso não é fácil de acertar, e mesmo os sistemas mais avançados às vezes têm dificuldade em prever a idade. Se não tivermos certeza da idade de alguém ou tivermos informações incompletas, optaremos pelo caminho mais seguro e adotaremos a experiência para menores de 18 anos — e daremos aos adultos maneiras de comprovar sua idade para desbloquear capacidades adultas”, diz outro comunicado.
Em alguns casos ou países, o ChatGPT poderá solicitar um documento de identidade. “Sabemos que isso compromete a privacidade dos adultos, mas acreditamos que seja uma troca válida”, argumentou Sam Altman. Os detalhes sobre como isso será implantado e quais regiões estão incluídas no programa ainda não foram divulgados.
Além disso, sistemas automatizados vão monitorar possíveis usos indevidos graves, e os riscos mais críticos — ameaças à vida de alguém, planos de prejudicar terceiros ou danos em escala social, como um potencial incidente massivo de segurança cibernética — poderão ser encaminhados para análise humana.
Leia Mais:
- Não é só o ChatGPT: OpenAI tem outros planos para o futuro
- GPT-5 perde espaço no ecossistema da Microsoft, que favorece Anthropic
- Anthropic: IA é usada para automação e levanta alerta sobre empregos
Impondo limites
Até o final do mês, o ChatGPT vai incluir controles parentais para todos os usuários, incluindo lembretes no aplicativo durante sessões longas para incentivar pausas. Como já anunciado, os novos recursos permitem:
- Vincular a conta de pais e responsáveis à conta do adolescente (idade mínima de 13 anos) por meio de um simples convite por e-mail;
- Definir horários de bloqueio quando um adolescente não pode usar o ChatGPT;
- Gerenciar quais recursos desabilitar, incluindo memória e histórico de bate-papo;
- Ajudar a orientar como o ChatGPT responde aos filhos adolescentes, com base em regras de comportamento específicas para cada adolescente;
- Receber notificações quando o sistema detectar que o filho adolescente está em um momento de extrema angústia.
“Se não conseguirmos contatar um dos pais em uma emergência rara, podemos acionar a polícia como próximo passo. A contribuição de especialistas orientará esse recurso para fortalecer a confiança entre pais e adolescentes”, explica a empresa.
Tags: