O Centro Nacional de Segurança Cibernética da Grã-Bretanha (NCSC) emitiu, nesta quarta-feira (30), um alerta para o risco do uso de chatbots de inteligência artificial por empresas. Segundo o órgão britânico, pesquisas mostram que elas podem ser manipuladas para realizar tarefas prejudiciais e que os problemas de segurança ligados aos algoritmos ainda não foram solucionados.
O que você precisa saber:
- O NCSC disse que as ferramentas estão sendo usadas precocemente, desde pesquisas na Internet até o trabalho de atendimento ao cliente;
- Para a agência governamental, isso pode trazer riscos, especialmente se tais modelos forem conectados a outros elementos dos processos de negócios da organização;
- Acadêmicos e pesquisadores já encontraram várias maneiras de subverter chatbots, alimentando-os com comandos desonestos ou enganando-os para contornarem suas próprias barreiras de proteção integradas;
- Recentemente, autoridades dos EUA e do Canadá afirmaram que a tecnologia já está sendo usada por hackers para criar software malicioso, redigir e-mails de phishing convincentes e espalhar desinformação on-line, conforme relatou à Reuters a principal autoridade de segurança cibernética do Canadá.
Leia mais!
- Pesquisadores treinam algoritmo de IA para encontrar patologias no X
- Nvidia regista fechamento recorde após parceria com Google em IA
- Chatbot para WhatsApp: 5 melhores opções para atendimento ao cliente
De acordo com a Reuters, um exemplo de risco seria com um chatbot de IA implantado em um banco. Se invadido por um hacker, ele pode ser induzido a fazer uma transação não autorizada se sua consulta for estruturada estrategicamente para tal.
As organizações que criam serviços que usam LLMs precisam ter cuidado da mesma forma que teriam se estivessem usando um produto ou biblioteca de código em beta.
NCSC em publicação oficial em seu blog.
Faz meses que diferentes governos estão discutindo como mitigar os perigos da IA generativa, que registou um boom no investimento e na popularidade dos consumidores após o lançamento do ChatGPT da OpenAI — seu impacto já foi, inclusive, comparado ao da chegada da internet.
Países também correm para garantir uma lei que proteja usuários, mas que não impeça o avanço da tecnologia. Os EUA, por exemplo, agendaram um evento fechado para discutir uma regulamentação em setembro. O fórum contará com a presença dos CEOs mais influentes no assunto, como Elon Musk (X/Twitter), Mark Zuckerberg (Meta) e Sam Altman (OpenAI).
Já assistiu aos nossos novos vídeos no YouTube? Inscreva-se no nosso canal!
Tags: