Na última terça-feira (09), a Anthropic apresentou um novo recurso para o assistente de IA Claude que permite gerar planilhas do Excel, apresentações do PowerPoint e outros documentos diretamente em conversas.
A novidade, chamada de “Criação e análise de arquivos atualizadas”, funciona de forma semelhante ao Code Interpreter do ChatGPT e já está disponível em prévia para usuários dos planos Max, Team e Enterprise, chegando aos assinantes Pro nas próximas semanas.
Anthropic admite risco
- O recurso roda em um ambiente sandbox que dá a Claude acesso à internet para baixar pacotes e executar código, o que abre margem para vulnerabilidades.
- A própria Anthropic alerta que a ferramenta “pode colocar os dados em risco”, já que agentes mal-intencionados podem explorar ataques de injeção de prompt para extrair informações confidenciais.
- Embora a empresa afirme que não houve casos comprovados de vazamento em testes internos, recomenda que os usuários monitorem de perto as interações do Claude e interrompam atividades suspeitas – uma medida criticada por especialistas como Simon Willison, que consideram que a responsabilidade recai demais sobre o usuário.
Leia Mais:
- Anthropic lança IA para monitorar conversas sobre armas nucleares
- Anthropic testa extensão do Claude com IA integrada ao Chrome
- Anthropic quer usar suas conversas para treinar o Claude – mas tem como impedir
Medidas de proteção
Para mitigar riscos, a Anthropic implementou classificadores contra injeções maliciosas, isolamento de sandbox para empresas, limitação de tempo de execução e bloqueio do compartilhamento público de chats com criação de arquivos.
Claude só pode acessar uma lista restrita de domínios (como Github e PyPI), e administradores corporativos podem decidir se habilitam ou não a função.
A empresa afirma manter testes contínuos de segurança e red-teaming, mas recomenda que cada organização avalie os riscos antes de liberar o recurso.
Tags: