A OpenAI anunciou nesta terça-feira (14) a criação de um Conselho de Especialistas em Bem-Estar e IA, composto por oito pesquisadores e profissionais de saúde mental. O grupo irá assessorar a empresa sobre como a inteligência artificial pode afetar as emoções, a motivação e o bem-estar dos usuários.
Inicialmente, o conselho orientará o trabalho da OpenAI em duas frentes principais – o ChatGPT e o Sora, aplicativo de geração de vídeos curtos. Segundo a empresa, as reuniões periódicas do grupo vão ajudar a definir o que caracteriza uma interação saudável entre humanos e sistemas de IA.
Danos da IA em jovens é cada vez mais questionado
- A iniciativa ocorre em meio a crescentes questionamentos sobre o impacto da IA na saúde mental, especialmente entre menores de idade.
- Em setembro, a Comissão Federal de Comércio dos EUA (FTC) abriu uma investigação para avaliar possíveis riscos de chatbots como o ChatGPT a crianças e adolescentes.
- A OpenAI também responde a um processo judicial movido por uma família que atribui ao chatbot o suicídio de um jovem.
Nos últimos meses, a empresa tem reforçado suas medidas de segurança e controles parentais, incluindo um sistema de detecção de idade e alertas para pais em casos de sofrimento emocional identificado nas conversas.
Especialistas são acadêmicos, médicos e pesquisadores
O novo conselho reúne especialistas de universidades como Oxford, Stanford, Northwestern e Georgia Tech, além de representantes do setor médico e de organizações sem fins lucrativos.
Eles já vinham colaborando informalmente com a empresa e participaram da primeira reunião oficial na semana passada.
Entre os membros estão Andrew Przybylski (Universidade de Oxford), David Bickham (Hospital Infantil de Boston), David Mohr (Universidade Northwestern), Mathilde Cerioli (Everyone.AI), Munmun De Choudhury (Georgia Tech), Robert Ross (The California Endowment), Sara Johansen (Stanford) e Tracy Dennis-Tiwary (Hunter College).
A OpenAI também afirmou estar trabalhando em parceria com a Global Network of Doctors, que apoiará testes e a definição de políticas voltadas à segurança emocional dos usuários.
Tags: