Siga o Olhar Digital no Google Discover
Hackers ligados ao governo da China usaram o Claude, inteligência artificial da Anthropic, para automatizar ataques cibernéticos a corporações e governos. Jacob Klein, chefe de inteligência de ameaças da desenvolvedora, admitiu o problema e revelou que os agentes realizaram os ataques com “literalmente um clique de botão”.
A informação foi revelada pelo site Wall Street Journal.
Hackers chineses usaram IA para automatizar ataques cibernéticos
Segundo o WSJ, os hackers foram patrocinados pelo governo chinês e começaram sua campanha de ataques cibernéticos em setembro. Foram dezenas de alvos, entre corporações e governos estrangeiros.
Para isso, eles usaram o Claude, da Anthropic – uma das principais desenvolvedoras na corrida de IA e rival da OpenAI. De acordo com Jacob Klein, chefe de inteligência de ameaças da empresa, o nível de automação dos ataques chegou a um nível de sofisticação que eles nunca tinham visto antes.
Klein destacou como hackers vêm usando IA há anos para realizar tarefas como criar e-mails de phishing ou vasculhar a internet em busca de falhas. No entanto, nesse caso, os ataques cibernéticos foram quase completamente autônomos, com 80% a 90% de autonomia.
Segundo ele, os agentes realizaram as ações “literalmente com um clique de um botão”. As únicas interações humanas necessárias foram confirmar ações, como “Sim, continue” ou “Não continue”.
Anthropic resolveu o problema
- A Anthropic conseguiu interromper os ataques cibernéticos, mas só depois que os hackers já haviam feito quatro invasões bem-sucedidas;
- Em uma delas, os agentes direcionaram as ferramentas do Claude para consultar bancos internos e extrair dados;
- A desenvolvedora não divulgou quais empresas ou governos foram hackeados, mas que os ataques bem-sucedidos conseguiram roubar informações confidenciais;
- Foram cerca de 30 alvos, no total. A Anthropic afirmou que o governo dos Estados Unidos não foi uma vítima (mas não confirmou se estaria entre as tentativas mal-sucedidas).
Ataques cibernéticos teriam vindo da China
Com base na infraestrutura digital utilizada, a Anthropic está confiante de que os ataques cibernéticos vieram de hackers patrocinados pela China. Porém, para eles conseguirem usar o Claude, tiveram que contornar medidas de segurança da própria empresa.
A desenvolvedora também afirma que os hackers desenvolveram um sistema para decompor cada parte dos ataques, desde a busca por vulnerabilidades até a obtenção de dados. Tudo isso aconteceu separadamente, para não levantar suspeitas.
Leia mais:
- Anthropic vai investir R$ 264 bilhões em novos data centers nos EUA
- Anthropic se destaca no mercado de IA e promete lucro antes da OpenAI
- Claude ensina cachorro robô a agir sozinho em novo experimento da Anthropic
Depois da resolução do problema, a Anthropic disse que atualizou seus métodos para detectar uso indevido, dificultando que casos como esse aconteçam no futuro. A empresa ainda defendeu que sua estratégia é focar no desenvolvimento de IAs que ajudem mais os ‘defensores’ do que os ‘atacantes’.
Tags: