Vulnerabilidade no ChatGPT pode levar a manipulações em buscas online

Siga o Olhar Digital no Google Discover

Tudo sobre ChatGPT

ver mais

Tudo sobre Inteligência Artificial

ver mais

Tudo sobre OpenAI

ver mais

A nova ferramenta de busca do ChatGPT, da OpenAI, está sendo disponibilizada para clientes pagos e promovida como uma opção padrão para usuários. No entanto, uma investigação do The Guardian revelou que o sistema pode ser vulnerável a manipulações externas, que podem comprometer sua integridade.

Ofertas

Vendido por Amazon

Agenda 2026 Coleção Happy Com Capa Dura Círculos Colors

Por R$ 45,90

Vendido por Amazon

Suporte para 2 Controles de PlayStation 5 PS5, Apoio de Mesa Gamer, Modelo VN

De: R$ 39,92
Por: R$ 37,92

Vendido por Amazon

Pasta Sanfonada DAC A4 Com 12 Divisões All Black Preto

De: R$ 27,90
Por: R$ 22,59

Vendido por Amazon

Carregador Fonte para Notebook Asus 19V 2.37A 45W com Pino Fino 4.0x1.35mm, compatível com VivoBook X543ua X543ma X515 X512 X510U ZenBook 14 UX433FA UX431FA X512F, referência Ad2108020 bivolt

De: R$ 67,44
Por: R$ 59,95

Vendido por Amazon

Garmin Relógio Venu 3 Branco 45mm com Monitor Cardíaco de Pulso e GPS

De: R$ 4.699,00
Por: R$ 3.099,00

Vendido por Amazon

eufy Câmera S3 Pro Kit 2+1 por anker, Câmera De Segurança Wi-Fi Externa Sem Fio, 4K, Energia Solar, Visão Noturna MaxColor, Reconhecimento Facial por IA, Compatível com Alexa, Sem taxas mensais

De: R$ 3.499,00
Por: R$ 3.324,00

Vendido por Amazon

eufy HomeBase3, Câmera de segurança, Reconhecimento Facial por IA, Armazenamento Local Expansível até 16TB, Criptografia Avançada, Ecossistema de Segurança eufy, Sem taxas mensais

De: R$ 1.049,00
Por: R$ 799,00

Vendido por Amazon

Bettdow SmartWatch, Relogio Smartwatch Feminino, 1.27" Ecrã tátil, à prova d'água IP68, 100+ Modos Esportivos, chamada Bluetooth, Compatível com Android iOS, voz por IA (Azul)

De: R$ 299,00
Por: R$ 241,44

Vendido por Amazon

Combo Teclado e Mouse sem fio Logitech POP Icon com Teclas e Botões Personalizáveis, Clique Silencioso, Easy-Switch para até 3 dispositivos e Conexão Bluetooth - Grafite

De: R$ 499,90
Por: R$ 388,78

Vendido por Amazon

eufy Câmera S330 (eufyCam 3) 2-Cam Kit por anker, Câmera De Segurança Wi-Fi Externa Sem Fio, 4K, Painel Solar, Forever Power, Reconhecimento Facial IA, Armazenamento Local Até 16TB, Sem Taxa Mensal

De: R$ 2.399,00
Por: R$ 2.159,00

Vendido por Amazon

soundcore Select 4 Go da Anker, Alto-Falante Bluetooth Portátil, 20H de Bateria, IP67 à Prova d'Água e Poeira, Flutuante, Som Potente, Ideal para Ambientes Internos, Externos e Passeios

De: R$ 339,00
Por: R$ 188,99

Vendido por Amazon

WB Smart Tag Localizador Bluetooth, Rastreador Compatível com o Apple Find My, bateria substituível, Localizador de itens para bolsas

De: R$ 88,00
Por: R$ 45,00

Vendido por Amazon

Anker Nano Carregador Portátil, Power Bank Compacto 10000mAh 45W Máx., Bateria Portátil Essencial para Viagens com Cabo Retrátil InstaCord de 70 cm para iPhone 17/16 Series, iPad, Galaxy, Pixel e Mais

De: R$ 399,00
Por: R$ 379,00

Vendido por Amazon

Capa com Teclado Combo Touch para iPad (10ª geração e A16) Com Teclado Retroiluminado Destacável com Suporte, Trackpad Preciso e Tecnologia Smart Connector - Cinza

De: R$ 1.629,90
Por: R$ 1.239,90

Vendido por Amazon

ULANZI VL-200Bi 200W luz de estúdio bicolor, luz de preenchimento COB, iluminação de saída contínua com controle de APP, 2700K-6500K, 6 cenas, montagem Bowens

De: R$ 1.179,00
Por: R$ 943,20

Vendido por Amazon

eufy Câmera S350, Camera de Segurança Wi-Fi, 4K Inteligente com Câmera Dupla, Visão 360°, Zoom 8×, Visão Noturna, Babá Eletrônica, Rastreamento por IA, Compatível com Alexa e HomeBase 3

De: R$ 999,00
Por: R$ 798,99

Vendido por Amazon

WAAW By ALOK Fone de Ouvido Bluetooth SENSE 310 Com Cancelamento de Ruído e Assistente de Voz, 30h de Bateria

De: R$ 329,90
Por: R$ 200,29

Vendido por Amazon

WAAW by ALOK Caixa de Som US 200SB DUO Bluetooth 2 em 1, Resistente à Água, Acabamento Metálico, TWS, 20W RMS

De: R$ 599,90
Por: R$ 476,10

Vendido por Amazon

Eufy Cam E340 Câmera De Segurança Wi-Fi Dual Band (2.4/5GHz) Exterior, 360° PTZ, Gravação 24/7, 2000 Lúmens, Detecção de Movimento + Sirene Integrada, Câmera Dupla, Sem Taxa Mensal, Branco

De: R$ 1.199,00
Por: R$ 1.139,05

Vendido por Amazon

Novo Kindle Paperwhite Signature Edition (32 GB) - O Kindle mais rápido já lançado, com luz frontal autoadaptável, carregamento sem fio e bateria que dura semanas - Cor Preta Metálica

De: R$ 1.199,00
Por: R$ 949,00

Vendido por Amazon

Combo Teclado e Mouse Sem Fio Logitech MK250 Bluetooth com Conectividade Rápida e Fácil, Design Compacto, Mouse Ambidestro, Layout ABNT2, Construção Durável, Compatível com PC e Mac - Rosa

De: R$ 169,90
Por: R$ 155,44

Vendido por Amazon

Combo Teclado e Mouse sem fio Logitech MK235 com Conexão USB, Pilhas Inclusas e Layout ABNT2

De: R$ 149,90
Por: R$ 119,90

Vendido por Amazon

Anker MagGo Power Bank, Carregador Portátil com Certificação Qi2 de 15W, Compatível com MagSafe, 10.000mAh, Tela Inteligente e Suporte Dobrável, para iPhone 17/15/14/13/12, Inclui Cabo USB-C, Branco

De: R$ 699,00
Por: R$ 398,99

Vendido por Amazon

Mouse Sem Fio Logitech M330 SILENT com Clique Silencioso, Design Destro, Bateria de 18 Meses, Receptor USB, Compatível com Windows, macOS, ChromeOS e Pilha Inclusa - Preto

De: R$ 109,90
Por: R$ 79,90

Vendido por Amazon

Webcam Full HD Logitech Brio 100 com Microfone Integrado, Proteção de Privacidade, Correção Automática de Luz e Conexão USB-C - Grafite

De: R$ 299,90
Por: R$ 199,90

O estudo mostrou que o ChatGPT, ao realizar buscas e resumir páginas da web, pode ser influenciado por conteúdos ocultos, gerando respostas manipuladas ou até mesmo retornando códigos maliciosos provenientes de sites fraudulentos.

A pesquisa testou como o ChatGPT reagia ao ser solicitado a resumir páginas que contêm conteúdo oculto. Esse tipo de conteúdo pode incluir instruções ocultas que alteram as respostas do ChatGPT — um processo conhecido como “injeção de prompt”.

Tais técnicas podem ser usadas para induzir o sistema a fornecer avaliações positivas de produtos, mesmo quando o conteúdo da página contém críticas negativas. A manipulação é ainda mais preocupante, pois em alguns casos, os sites maliciosos podem até direcionar o ChatGPT para fornecer código malicioso ao ser solicitado a pesquisar essas páginas.

Como funciona a manipulação do ChatGPT em buscas?

• Durante os testes realizados, o ChatGPT foi solicitado a avaliar uma página de produto de câmera, onde as respostas variaram de acordo com o conteúdo oculto presente.
• Em um caso, mesmo quando o conteúdo negativo estava visível, a inserção de texto oculto direcionava o ChatGPT a retornar uma avaliação excessivamente positiva.
• Em outro teste, avaliações falsas extremamente positivas também influenciaram a resposta, demonstrando a facilidade com que os manipuladores podem alterar a percepção de um produto através de estratégias como essas.
• Jacob Larsen, especialista em cibersegurança da CyberCX, afirmou ao The Guardian que, caso o sistema de busca do ChatGPT fosse lançado dessa forma para o público em geral, haveria um grande risco de criação de sites exclusivamente voltados para enganar os usuários.
• Porém, ele ressaltou que a funcionalidade de busca foi lançada recentemente e está disponível apenas para clientes premium, o que significa que a OpenAI pode estar ciente desses problemas e trabalhando para solucioná-los.

Impactos na segurança e confiança nas respostas de IA

Larsen também destacou que o problema não está restrito ao uso de injeções de prompt, mas se refere à combinação de sistemas de busca com modelos de linguagem como o ChatGPT, que não são projetados para validar o conteúdo com o mesmo rigor de um humano.

A confiabilidade das respostas geradas por inteligência artificial (IA), em casos como o de um entusiasta de criptomoedas que perdeu US$ 2.500 devido a um código malicioso fornecido pelo ChatGPT, mostra como os usuários podem ser enganados ao confiar cegamente nas respostas desses sistemas.

Karsten Nohl, cientista-chefe da SR Labs, alertou ao The Guardian que os serviços de chat de IA devem ser tratados mais como “co-pilotos” e que suas respostas devem ser sempre analisadas com cautela. “Os modelos de linguagem são como crianças”, afirmou Nohl, “eles têm uma grande memória, mas pouca capacidade de fazer julgamentos”. Essa falta de discernimento pode ser perigosa, especialmente quando as respostas afetem decisões importantes.

O futuro da busca com IA e os desafios de segurança

O risco de manipulação na busca do ChatGPT levanta questões sobre os impactos futuros dessa tecnologia, principalmente se ela se tornar mais amplamente acessível. Técnicas como a “SEO poisoning”, usadas para manipular os resultados de busca do Google, podem se tornar comuns em sistemas de IA, colocando os usuários em risco de encontrarem sites que visam exclusivamente manipular as percepções sobre produtos ou até mesmo roubar informações sensíveis.

A OpenAI foi questionada pelo The Guardian sobre essas questões, mas ainda não se pronunciou oficialmente.