IA está sendo usada para ataques hackers, alerta Canadá

A inteligência artificial está sendo utilizada para criar malwares e espalhar desinformação online. O alerta é do Centro Canadense de Segurança Cibernética, principal autoridade de cibersegurança do Canadá, e reforça as preocupações com o uso da IA mundo afora.

Leia mais

• Microsoft libera ferramentas gratuitas de segurança cibernética após ataque hacker
• Hackers russos tentam contornar restrições da OpenAI para uso malicioso do ChatGPT
• Inteligência Artificial e ataques cibernéticos: como a IA ajuda a combatê-los?

A afirmação de Sami Khoury, chefe da agência canadense, foi feita durante uma entrevista recente. De acordo com ele, a IA está sendo utilizada “em e-mails de phishing, ou criando e-mails de forma mais focada, em código malicioso (e) em desinformação e desinformação”.

Ele não forneceu maiores detalhes ou evidências do uso da tecnologia, mas a declaração se junta a diversos outros alertas do tipo.

Alertas sobre o uso da IA

• Nos últimos meses, vários grupos de vigilância cibernética publicaram relatórios alertando sobre os riscos envolvendo o uso da IA, especialmente os programas de processamento de linguagem de rápido avanço.
• Conhecidos como modelos de linguagem grande (LLM), eles se baseiam em grandes volumes de texto para criar diálogos, documentos e muito mais convincentes.
• Em março deste ano, a Europol, organização policial europeia, alertou que tecnologias como o ChatGPT, da OpenAI, tornaram possível “se passar por uma organização ou indivíduo de uma maneira altamente realista, mesmo com apenas uma compreensão básica da língua inglesa”.
• No mesmo mês, o Centro Nacional de Segurança Cibernética do Reino Unido disse que havia o risco de que os criminosos “pudessem usar LLMs para ajudar com ataques cibernéticos além de suas capacidades atuais”.
• Pesquisadores de segurança cibernética demonstraram uma variedade de casos de uso potencialmente maliciosos e alguns dizem que estão começando a ver conteúdos suspeitos gerados pela inteligência artificial.
• Recentemente, um ex-hacker disse ter descoberto um LLM treinado para fins maliciosos e pediu que o sistema elaborasse uma tentativa convincente de enganar alguém para fazer uma transferência de dinheiro.
• Um e-mail de três parágrafos pedindo ajuda para o pagamento de uma grande fatura foi gerado.
• “Esse pagamento é incrivelmente importante e precisa ser feito nas próximas 24 horas”, dizia o texto.

Ataque hacker chinês

• Nas últimas semanas, um ataque hacker proveniente da China conseguiu acesso aos e-mails de cerca de 25 organizações, incluindo pelo menos duas agências do governo dos Estados Unidos, após uma falha no sistema da Microsoft.
• Os hackers foram identificados como Storm-0558 , um grupo que usa principalmente espionagem, acesso a credenciais e roubo de dados para atingir agências governamentais na Europa Ocidental.
• Não há nenhum tipo de evidência que os criminosos tenham usado a IA durante o ataque, mas o caso acendeu novos alertas sobre os prejuízos causados por esse tipo de ação, que agora supostamente pode contar com a ajuda da inteligência artificial.

Com informações de Reuters.

Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!