Ao que tudo indica, não são apenas os usuários do ChatGPT que não entendem bem o funcionamento da inteligência artificial (IA) da OpenAI. Segundo Sam Altman, CEO da startup, a empresa também não compreende completamente seus grandes modelos de linguagem (LLM), indicando um problema de “interpretabilidade”.
O que você precisa saber:
- Questionado durante a Cúpula Global de IA em Genebra, Suíça, o CEO disse que a empresa ainda não descobriu como rastrear os resultados imprecisos dos seus modelos de IA e as decisões que ele toma para chegar as respostas;
- Ele garantiu, no entanto, que as IAs da startup são “seguras e robustas”;
- De acordo com o Futurism, a resposta desconcertada de Altman reforça os problemas da IA quanto a disseminação de fake news e informações erradas.
Leia mais!
- ChatGPT vs. Gemini: qual assinatura de IA vale mais a pena?
- Como usar a IA do Google direto no navegador Chrome
- 5 Prompts do ChatGPT para criar currículos
Vale lembrar que, recentemente, um relatório encomendado pelo governo do Reino Unido concluiu que os criadores de IA de fato “compreendem pouco sobre como os seus sistemas funcionam” e que o conhecimento científico é “muito limitado”.
“As técnicas de explicação e interpretabilidade do modelo podem melhorar a compreensão dos pesquisadores e desenvolvedores sobre como funcionam os sistemas de IA de uso geral, mas esta pesquisa no começo”, apontou o levantamento.
Algumas empresas estão tentando “abrir a caixa preta” do mistério, mapeando os neurônios artificiais de seus algoritmos. A Anthropic, por exemplo, iniciou recentemente um levantamento detalhado sobre o funcionamento interno de seus mais recente LLM, o Claude Sonnet.
A Anthropic fez um investimento significativo em pesquisas de interpretabilidade desde a fundação da empresa, porque acreditamos que compreender profundamente os modelos nos ajudará a torná-los mais seguros. Mas o trabalho realmente apenas começou. Compreender as representações que o modelo usa não nos diz como ele as utiliza; mesmo que tenhamos os recursos, ainda precisamos encontrar os circuitos nos quais eles estão envolvidos.
Anthropic em comunicado.
A ‘confissão’ de Altman chega após a OpenAI anunciar que os projetos com IA da startup passarão a ter uma nova equipe responsável para garantir a produção segura das tecnologias. A equipe será liderada diretamente CEO da companhia. Entenda a mudança aqui!
Tags: