Chatbots podem causar “alucinação”, diz executivo do Google

Prabhakar Raghavan, vice-presidente sênior do Google, disse que a empresa está preocupada com a veracidade das respostas do Bard
Por William Schendes, editado por Bruno Capozzi 13/02/2023 14h38
Chatbots podem causar
Compartilhe esta matéria
Ícone Whatsapp Ícone Whatsapp Ícone X (Tweeter) Ícone Facebook Ícone Linkedin Ícone Telegram Ícone Email

O vice-presidente sênior e chefe do mecanismo de busca do Google, Prabhakar Raghavan, afirma que o tipo de inteligência artificial utilizada por chatbots, como o ChatGPT, é capaz de causar “alucinação”. Ele argumentou que essas tecnologias produzem “respostas convincentes, mas completamente fictícias”.

Na última semana, o Google divulgou o Bard, seu serviço experimental de IA generativa para concorrer com o ChatGPT. Porém, logo em sua primeira demonstração, o serviço cometeu um erro ao responder uma pergunta feita sobre o Telescópio Espacial James Webb.

Leia mais:

Prabhakar Raghavan
Prabhakar Raghavan. (Imagem: Reprodução/ Google)

Em entrevista ao jornal alemão Welt am Sonntag, Raghavan disse que o Google está planejando integrar o Bard às funções de busca da empresa, algo semelhante ao que foi anunciado pela Microsoft para a nova versão do Bing.

Os enormes modelos de linguagem por trás dessa tecnologia tornam impossível para os humanos monitorarem todos os comportamentos concebíveis do sistema. Mas queremos testá-lo em uma escala grande o suficiente para, no final, ficarmos satisfeitos com as métricas que usamos para verificar a factualidade das respostas.

Prabhakar Raghavan.

Questionado sobre quando o Google pretende tornar o Bard público, o executivo respondeu: “Claro que sentimos a urgência, mas também sentimos a grande responsabilidade. Nós definitivamente não queremos enganar o público.”

O Bard

  • O novo “serviço experimental de IA” do Google será capaz de responder perguntas e participar de conversas.
  • O chatbot da gigante de buscas chegou primeiro para um grupo de “testadores oficiais” e será disponibilizado para todos “nas próximas semanas”.
  • O serviço é alimentado por “informações da web” e, segundo o Google, pode “fornecer respostas de alta qualidade”.
  • O Bard também consegue responder perguntas sobre eventos recentes, algo que o rival ChatGPT ainda não pode fazer – segundo o Google.

Com informações de Welt e Reuters

Imagem destaque: JRdes/ Shutterstock

Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!

Jornalista em formação pela Universidade Metodista de São Paulo (UMESP). Mesmo com alguns assuntos negativos, gosta ficar atualizado e noticiar sobre diferentes temas da tecnologia.

Bruno Capozzi é jornalista formado pela Faculdade Cásper Líbero e mestre em Ciências Sociais pela PUC-SP, tendo como foco a pesquisa de redes sociais e tecnologia.