Assim como muita gente pede aos chatbots para que criem roteiros de férias, alguns usuários buscam auxílio para que a IA os ajude a dar golpes de phishing mais difíceis de identificar.
A Reuters e um pesquisador da Universidade Harvard usaram os mais conhecidos chatbots para planejar um golpe de phishing simulado. E todos, incluindo o ChatGPT, Grok, Claude, Meta AI, Gemini e DeepSeek, acabaram criando os golpes – mesmo aqueles que, a princípio, se recusaram a criar os e-mails.
Pesquisadores testaram se os chatbots mais conhecidos criariam e-mails de phishing para aplicar golpes em idosos. Todos eles atenderam ao pedido. Crédito: Tada Images / Shutterstock.com
Chatbots podem ser induzidos a criar fraudes
Repórteres da Reuters e o pesquisador de Harvard Fred Heiding fizeram um estudo nos Estados Unidos para testar se os chatbots mais conhecidos criariam e-mails de phishing para enganar pessoas idosas. O teste começou com o Grok, chatbot da xAI, de Elon Musk. Ele foi instruído a escrever sobre uma suposta instituição de caridade chamada “Silver Heart Foundation”.
O Grok criou a mensagem sem se preocupar se era um golpe, inclusive incluindo frases que incentivavam a urgência, como “Clique agora para agir antes que seja tarde demais”. Na verdade, a instituição não existia e o e-mail tinha o objetivo de enganar os usuários.
Além do Grok, outros cinco grandes chatbots foram testados: ChatGPT, Meta AI, Gemini, Claude e DeepSeek. Inicialmente, eles se recusaram a criar mensagens de phishing. Mas, quando os pesquisadores mudaram ligeiramente a forma do pedido – dizendo que o e-mail seria para uma pesquisa acadêmica ou para um livro de ficção – todos acabaram criando mensagens falsas para o golpe.
11% dos voluntários que participaram do estudo clicaram no link suspeito que aparecia no e-mail. Crédito: Nataliia Hruts / iStock
As mensagens falsas criadas pelos chatbots foram enviadas para 100 voluntários, sendo que 11% deles clicaram nos links maliciosos, mostrando que golpes feitos por inteligência artificial podem ser tão eficazes quanto aqueles criados por pessoas.
Dos e-mails enviados, cinco geraram cliques: dois gerados pelo assistente de IA da Meta, dois pelo Grok e um pela Claude. Nenhum usuário clicou nos e-mails gerados pelo ChatGPT e DeepSeek.
Inteligência artificial facilita a criação de golpes
Para Heiding, que estuda técnicas de phishing há anos, a facilidade de uso torna os chatbots “parceiros valiosos no crime”. Eles podem gerar dezenas de variações rapidamente, cortando custos para os criminosos e facilitando a expansão das operações.
As empresas acusaram o golpe na credibilidade de suas ferramentas e responderam:
Meta: investe em salvaguardas para evitar uso indevido e realiza testes de estresse em seus sistemas.
Anthropic: declarou que usar o chatbot Claude para golpes viola suas políticas e suspende contas que usam a ferramenta indevidamente.
Google: retreinou o Gemini após descobrir que ele havia gerado conteúdo de phishing.
OpenAI: admitiu publicamente que seus modelos podem ser usados indevidamente para “engenharia social”.
Com medo de perder o usuário para um concorrente, as empresas acabam abrindo brechas que permitem que golpes sejam facilmente criados pela IA. Crédito: JLStock/ Shutterstock
A DeepSeek e Grok não responderam aos questionamentos da Reuters sobre a facilidade de criação de e-mails para golpes de phishing.
Especialistas consultados pela Reuters, o problema está na forma com que as empresas tentam equilibrar a experiência do usuário com a segurança. Como os chatbots são criados para serem convenientes, ao recusarem responder a um questionamento do usuário, isso pode levá-lo para um concorrente com menos restrições, abrindo espaço para usos indevidos.
Isso deixa claro que os usuários precisam prestar ainda mais atenção às mensagens que recebem, desconfiando de qualquer uma que prometa coisas impossíveis, como descontos generosos ou viagens gratuitas. Em caso de dúvidas, apagando o e-mail rapidamente.
Layse Ventura é jornalista (Uerj), mestre em Engenharia e Gestão do Conhecimento (Ufsc) e pós-graduada em BI (Conquer). Acumula quase 20 anos de experiência como repórter, copywriter e SEO.
Tags: