Chatbots de IA alucinam e mentem. Big techs buscam soluções

Tudo sobre ChatGPT

Tudo sobre Inteligência Artificial

Os chatbots baseados em modelos de linguagem, como o ChatGPT da OpenAI, são treinados para prever a próxima palavra, mas não são treinados para reconhecer quando não sabem a resposta. Isso resulta em chatbots que tendem a inventar respostas em vez de admitir que não sabem.

Ofertas

Vendido por Amazon

Stickman Warriors: Monster Survival Battle Game 3D

Por R$ 32,51

Vendido por Amazon

Samsung Smart TV 75" Crystal UHD 4K U8100F 2025

De: R$ 5.299,99
Por: R$ 4.519,90

Vendido por Amazon

Notebook Dell Inspiron I15-I1300-A60P 15.6" Full HD 13ª Gen Intel Core i5 16GB 1TB SSD Win 11 Preto Carbono

Por R$ 3.955,69

Vendido por Amazon

Garmin Relógio Venu 3 Branco 45mm com Monitor Cardíaco de Pulso e GPS

De: R$ 4.699,00
Por: R$ 3.099,00

Vendido por Amazon

eufy Câmera S3 Pro Kit 2+1 por anker, Câmera De Segurança Wi-Fi Externa Sem Fio, 4K, Energia Solar, Visão Noturna MaxColor, Reconhecimento Facial por IA, Compatível com Alexa, Sem taxas mensais

De: R$ 3.499,00
Por: R$ 3.324,00

Vendido por Amazon

eufy HomeBase3, Câmera de segurança, Reconhecimento Facial por IA, Armazenamento Local Expansível até 16TB, Criptografia Avançada, Ecossistema de Segurança eufy, Sem taxas mensais

De: R$ 849,00
Por: R$ 799,00

Vendido por Amazon

Bettdow SmartWatch, Relogio Smartwatch Feminino, 1.27" Ecrã tátil, à prova d'água IP68, 100+ Modos Esportivos, chamada Bluetooth, Compatível com Android iOS, voz por IA (Azul)

De: R$ 299,00
Por: R$ 241,44

Vendido por Amazon

Combo Teclado e Mouse sem fio Logitech POP Icon com Teclas e Botões Personalizáveis, Clique Silencioso, Easy-Switch para até 3 dispositivos e Conexão Bluetooth - Grafite

De: R$ 499,90
Por: R$ 388,78

Vendido por Amazon

eufy Câmera S330 (eufyCam 3) 2-Cam Kit por anker, Câmera De Segurança Wi-Fi Externa Sem Fio, 4K, Painel Solar, Forever Power, Reconhecimento Facial IA, Armazenamento Local Até 16TB, Sem Taxa Mensal

De: R$ 2.399,00
Por: R$ 2.159,00

Vendido por Amazon

soundcore Select 4 Go da Anker, Alto-Falante Bluetooth Portátil, 20H de Bateria, IP67 à Prova d'Água e Poeira, Flutuante, Som Potente, Ideal para Ambientes Internos, Externos e Passeios

De: R$ 339,00
Por: R$ 188,99

Vendido por Amazon

WB Smart Tag Localizador Bluetooth, Rastreador Compatível com o Apple Find My, bateria substituível, Localizador de itens para bolsas

De: R$ 88,00
Por: R$ 45,00

Vendido por Amazon

Anker Nano Carregador Portátil, Power Bank Compacto 10000mAh 45W Máx., Bateria Portátil Essencial para Viagens com Cabo Retrátil InstaCord de 70 cm para iPhone 17/16 Series, iPad, Galaxy, Pixel e Mais

De: R$ 399,00
Por: R$ 379,00

Vendido por Amazon

Capa com Teclado Combo Touch para iPad (10ª geração e A16) Com Teclado Retroiluminado Destacável com Suporte, Trackpad Preciso e Tecnologia Smart Connector - Cinza

De: R$ 1.629,90
Por: R$ 1.239,90

Vendido por Amazon

ULANZI VL-200Bi 200W luz de estúdio bicolor, luz de preenchimento COB, iluminação de saída contínua com controle de APP, 2700K-6500K, 6 cenas, montagem Bowens

De: R$ 1.179,00
Por: R$ 943,20

Vendido por Amazon

eufy Câmera S350, Camera de Segurança Wi-Fi, 4K Inteligente com Câmera Dupla, Visão 360°, Zoom 8×, Visão Noturna, Babá Eletrônica, Rastreamento por IA, Compatível com Alexa e HomeBase 3

De: R$ 999,00
Por: R$ 798,99

Vendido por Amazon

WAAW By ALOK Fone de Ouvido Bluetooth SENSE 310 Com Cancelamento de Ruído e Assistente de Voz, 30h de Bateria

De: R$ 329,90
Por: R$ 199,00

Vendido por Amazon

WAAW by ALOK Caixa de Som US 200SB DUO Bluetooth 2 em 1, Resistente à Água, Acabamento Metálico, TWS, 20W RMS

De: R$ 599,90
Por: R$ 476,10

Vendido por Amazon

Eufy Cam E340 Câmera De Segurança Wi-Fi Dual Band (2.4/5GHz) Exterior, 360° PTZ, Gravação 24/7, 2000 Lúmens, Detecção de Movimento + Sirene Integrada, Câmera Dupla, Sem Taxa Mensal, Branco

De: R$ 1.199,00
Por: R$ 1.139,05

Vendido por Amazon

Novo Kindle Paperwhite Signature Edition (32 GB) - O Kindle mais rápido já lançado, com luz frontal autoadaptável, carregamento sem fio e bateria que dura semanas - Cor Preta Metálica

De: R$ 1.199,00
Por: R$ 949,00

Vendido por Amazon

Combo Teclado e Mouse Sem Fio Logitech MK250 Bluetooth com Conectividade Rápida e Fácil, Design Compacto, Mouse Ambidestro, Layout ABNT2, Construção Durável, Compatível com PC e Mac - Rosa

De: R$ 169,90
Por: R$ 155,44

Vendido por Amazon

Combo Teclado e Mouse sem fio Logitech MK235 com Conexão USB, Pilhas Inclusas e Layout ABNT2

De: R$ 149,90
Por: R$ 119,90

Vendido por Amazon

Anker MagGo Power Bank, Carregador Portátil com Certificação Qi2 de 15W, Compatível com MagSafe, 10.000mAh, Tela Inteligente e Suporte Dobrável, para iPhone 17/15/14/13/12, Inclui Cabo USB-C, Branco

De: R$ 699,00
Por: R$ 398,99

Vendido por Amazon

Mouse Sem Fio Logitech M330 SILENT com Clique Silencioso, Design Destro, Bateria de 18 Meses, Receptor USB, Compatível com Windows, macOS, ChromeOS e Pilha Inclusa - Preto

De: R$ 109,90
Por: R$ 79,90

Vendido por Amazon

Webcam Full HD Logitech Brio 100 com Microfone Integrado, Proteção de Privacidade, Correção Automática de Luz e Conexão USB-C - Grafite

De: R$ 299,90
Por: R$ 222,11

Pesquisadores do MIT descobriram uma nova abordagem para melhorar as respostas dos chatbots.
A proposta envolve o uso de vários chatbots para gerar respostas múltiplas à mesma pergunta.
Esses chatbots debatem entre si para escolher a resposta correta.
A abordagem, chamada de “sociedade de mentes”, aumentou a precisão dos chatbots.
Os chatbots “generativos” enfrentam o desafio de inventar informações.
ChatGPT da OpenAI, Bing da Microsoft e Bard do Google são exemplos de chatbots generativos que já passaram (e ainda passam) por isso.
Esses chatbots têm capacidades impressionantes, mas ainda sofrem com o problema de inventar informações.
Esse problema, conhecido como “alucinações”, tem preocupado muitos especialistas em tecnologia, pesquisadores e céticos em inteligência artificial.

Leia mais:

A questão das alucinações dos chatbots é mencionada em dezenas de artigos acadêmicos e até CEOs de grandes empresas de tecnologia, como Sundar Pichai, do Google, já abordaram o assunto. Com a crescente utilização de chatbots em áreas críticas, como medicina e direito, compreender as alucinações e encontrar maneiras de mitigá-las tornou-se ainda mais crucial.

A maioria dos pesquisadores concorda que o problema é inerente aos “modelos de linguagem grandes”, devido à forma como são projetados. Esses modelos preveem a resposta mais apropriada com base em uma enorme quantidade de dados da internet, mas não possuem um mecanismo para distinguir o que é factual do que não é.

Como resolver a questão

Pesquisadores e empresas trabalhando na resolução do problema das alucinações:
- Engajamento de pesquisadores e empresas no esforço de resolver o problema das alucinações.
Utilização de treinadores humanos para reescrever respostas de chatbots:
- Algumas empresas estão empregando treinadores humanos para reescrever as respostas dos chatbots.
- O objetivo é alimentar essas respostas reescritas de volta ao sistema, visando aprimorar a inteligência dos chatbots.
Uso de chatbots do Google e Microsoft em mecanismos de busca:
- O Google e a Microsoft começaram a utilizar seus chatbots para fornecer respostas diretamente em seus mecanismos de busca.
- No entanto, eles ainda conferem os resultados com pesquisas convencionais para garantir sua precisão.
Sugestões acadêmicas para diminuir a taxa de respostas falsas:
- Acadêmicos ao redor do mundo têm proposto várias maneiras de reduzir a ocorrência de respostas falsas nos chatbots.
- Uma das propostas do MIT é fazer com que vários chatbots debatam entre si como forma de melhorar a qualidade das respostas.

A urgência em melhorar o problema das alucinações é evidente. Já houve casos em que chatbots forneceram informações falsas, como acusações infundadas feitas pelo chatbot da Microsoft contra alguns usuários ou a geração de documentos legais inválidos por um advogado utilizando o ChatGPT da OpenAI.

Embora as alucinações possam ser vistas como uma característica que permite aos chatbots serem criativos e gerarem histórias inéditas, elas também revelam as limitações da tecnologia e questionam a inteligência destas ferramentas, já que eles não possuem uma compreensão interna do mundo ao seu redor.

Enquanto as empresas líderes do setor estão adotando abordagens como comparação com resultados de pesquisas tradicionais para reduzir as alucinações e imprecisões, pesquisadores acreditam que será necessário desenvolver um método totalmente novo de aprendizado em inteligência artificial para resolver completamente o problema.

No final das contas, os chatbots ainda têm um longo caminho a percorrer antes de serem considerados verdadeiramente confiáveis em fornecer informações factuais e precisas.

Com informações do The Washington Post.

Já assistiu aos nossos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!