ChatGPT erra e OpenAI não está deixando isso claro

Como já foi reportado diversas vezes, o ChatGPT pode errar. Na verdade, o chatbot da OpenAI erra com frequência, mas a empresa pouco está fazendo para deixar claro as limitações de seu software de Inteligência Artificial (IA). O único aviso dado pela companhia é que o programa “ocasionalmente pode gerar informações incorretas”.

Leia mais:

• ChatGPT-4 Browsing: o que é e como funciona o chatbot que acessa a web
• Como o ChatGPT pode ser utilizado na área de programação?
• ChatGPT ganha acesso à internet e responde perguntas atuais

Informações incorretas e mentiras

• Nesta semana, um advogado usou informações fornecidas pelo ChatGPT sobre decisões judiciais em processo jurídico;
• Ele até chegou a questionar o ChatGPT se os dados eram verdadeiros e o chatbot confirmou, inclusive citando a fonte;
• No entanto, as informações eram inventadas e o advogado foi pego na mentira pelo tribunal, tendo que responder pelo uso indevido (e o Olhar Digital já falou sobre esse caso aqui);
• O profissional justificou que “não sabia da possibilidade de que o conteúdo [do ChatGPT] pudesse ser falso”;
• É claro que, nesse caso, um dos últimos e mais notáveis registrados nesta semana, a culpa é do advogado, mas a OpenAI pouco tem feito para avisar os usuários das limitações do sistema e da possibilidade de erro;
• Outros casos mostram que o ChatGPT também inventa notícias, trabalhos acadêmicos e livros como fonte de informação.

Papel da OpenAI

A OpenAI parece não ter assimilado a grandiosidade de seu chatbot e o uso que tem sido feito dele por parte dos usuários. Muitos recorrem à tecnologia por motivos de saúde, pesquisas acadêmicas ou, como foi o caso do advogado, materiais jurídicos.

Em maio, outro caso, de um professor do Texas que usou o ChatGPT para conferir se os alunos usaram a tecnologia para escrever redações, quase reprovou todos os estudantes. Isso porque o chatbot afirmou que ele tinha sido usado indevidamente, mas ele sequer tem capacidade para fazer esse tipo de verificação e apenas inventou uma resposta, que quase rendeu a reprovação de uma turma inteira.

Ainda assim, a companhia não tem esclarecido que o software mente e inventa informações ativamente, e não pode ser considerado 100% eficaz nem nas consultas.

Mecanismos de busca

Isso porque o ChatGPT não é um mecanismo de busca. Usuários usam-no como o Google justamente porque a OpenAI tem falhado em explicar que, na verdade, o chatbot é como um assistente virtual. Ele dirá qualquer informação de forma confiante, mesmo uma fabricada.

Evoluções

• Apesar desses problemas, isso não quer dizer que o ChatGPT é ruim;
• Mesmo com as omissões da OpenAI em esclarecer as limitações, o chatbot já tem respondido a algumas perguntas negando pedidos que fogem da sua alçada;
• Uma de suas respostas padrão, inclusive, admite que, “como um modelo de lingugem de IA…”, ele não tem conhecimento para responder certas questões.

Com informações de The Verge