Anthropic endurece regras de segurança do Claude

A Anthropic atualizou a política de uso de seu chatbot Claude, em resposta a crescentes preocupações com segurança cibernética e o uso indevido da IA.

A nova versão proíbe especificamente o desenvolvimento de armas de destruição em massa, incluindo explosivos de alto poder, armas biológicas, químicas, nucleares e radiológicas (QBRN), além de manter restrições já existentes sobre outros materiais perigosos.

Novas regras e políticas

• A atualização também introduz regras rigorosas contra o uso do Claude para comprometer computadores ou sistemas de rede, prevenir exploração de vulnerabilidades, criação de malware e ataques cibernéticos.
• Ferramentas como o Uso do Computador e o Código Claude, que permitem ao modelo assumir o controle de sistemas ou se integrar diretamente a terminais de desenvolvedores, são citadas como potenciais riscos.
• Além das medidas de segurança, a empresa flexibilizou sua política em relação a conteúdo político.
• Agora, o Claude só é proibido para casos enganosos ou que possam prejudicar processos democráticos, como segmentação de eleitores e campanhas manipulativas.

Leia mais:

• ChatGPT vs Claude.AI: qual IA é melhor?
• Claude.AI: como usar inteligência artificial
• Quais são as principais empresas de Inteligência Artificial do mundo

Medidas de proteção

Segundo a Anthropic, suas salvaguardas de Nível 3 de Segurança de IA, implementadas em maio junto ao modelo Claude Opus 4, visam impedir abusos em escala e proteger tanto usuários quanto o público em geral.

Com as mudanças, a empresa busca equilibrar o uso seguro da IA com a liberdade para aplicações legítimas, ao mesmo tempo em que responde a preocupações sobre armas, cibersegurança e influência política.