O chatbot com inteligência artificial da OpenAI, o ChatGPT, tem sido um assunto recorrente no mundo da tecnologia nos últimos meses. A ferramenta impressionou muitas pessoas por sua suposta capacidade de desenvolver qualquer tipo de texto e responder um grande número de perguntas. No entanto, algumas falhas podem ser apontadas ao funcionamento do chatbot.
As imperfeições do ChatGPT
- É verdade que o ChatGPT pode reunir uma gama de respostas para diversas perguntas, mas ao mesmo tempo, o chatbot não tem esse conhecimento. Para descrever melhor, a ferramenta não tem critério para avaliar a precisão de uma resposta e escorrega em questões de bom senso, paradoxo e ambiguidades;
- Uma observação da própria OpenAI sobre o ChatGPT também pode servir para essas questões: a empresa aponta que a ferramenta às vezes produz respostas que podem parecer plausíveis, mas são incorretas ou sem sentido e geralmente é excessivamente prolixa;
- O ChatGPT, além disso, tem problemas para distinguir fato de ficção. Como resultado, o chatbot faz afirmações com imprecisões óbvias e traz desinformações, sem sequer compartilhar a “confiabilidade” da fonte.
Outro problema do ChatGPT é que as informações reunidas pela IA estão desatualizadas. Atualmente, o conhecimento de mundo do chatbot termina em 2021 – esse é um problema mais simples de ser corrigido, por outro lado.
Leia mais:
- ChatGPT supera humanos e é aprovado em curso de pós-graduação; entenda
- Google pretende lançar sua versão do ChatGPT; saiba mais
- ChatGPT escrevendo artigos científicos? Entenda a discussão no mundo acadêmico
Adicionalmente, a ferramenta tenta não fornecer respostas tendenciosas, maliciosas ou odiosas. Porém, isso é algo que muitos usuários conseguem contornar, já que o ChatGPT não pode usar uma intuição para desvendar as respostas que as pessoas querem encontrar. Com isso, os resultados podem sofrer variações amplas a depender de como as perguntas serão formuladas – e pequenas distinções nos questionamentos já fazem a diferença para essa variação ocorrer.
Em meio à tentativa de otimizar a tecnologia, a OpenAI foi acusada de explorar trabalhadores quenianos para identificar conteúdos explícitos ou violentos. O objetivo passaria por ensinar o ChatGPT a não replicar esse tipo de conteúdo.
Diante disso, embora a OpenAi continue tentando melhorar a precisão do ChatGPT e procure superar outros problemas, ainda não é possível desvendar se as desvantagens da tecnologia podem ser suavizadas ou eliminadas. E o ChatGPT se tornar verdadeiramente confiável é algo que somente o futuro dirá.
Informações via Axios
Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!
Tags: