Olhar Digital > Inteligência Artificial > O plano da Anthropic para impedir que sua IA construa uma arma nuclear

O plano da Anthropic para impedir que sua IA construa uma arma nuclear

Empresa criadora do Claude anunciou parceria com o governo dos EUA para criar um filtro capaz de detectar conversas sobre riscos nucleares
Por Alessandro Di Lorenzo, editado por Bruno Capozzi 21/10/2025 08h51
bomba atômica, bomba nuclear
(Imagem: Alones/Shutterstock)
Compartilhe esta matéria
Ícone Whatsapp Ícone Whatsapp Ícone X (Tweeter) Ícone Facebook Ícone Linkedin Ícone Telegram Ícone Email

Siga o Olhar Digital no Google Discover

Inteligência artificial
Tudo sobre Inteligência Artificial
ver mais

Apesar de todo o potencial da inteligência artificial, o desenvolvimento dessas ferramentas é acompanhado por diversas preocupações. A maior delas, sem dúvidas, é a possibilidade que a tecnologia construa e lance armas nucleares.

Ofertas
Glamour Fashion Doll Dress Up Girl Makeup Games: Stylist Queen Makeover Challenge 2025
Vendido por Amazon
Glamour Fashion Doll Dress Up Girl Makeup Games: Stylist Queen Makeover Challenge 2025
Por R$ 38,38
Penalty Soccer: Real Football Striker Shootout & World Cup Match 3D Mini Football Challenge 2025
Vendido por Amazon
Penalty Soccer: Real Football Striker Shootout & World Cup Match 3D Mini Football Challenge 2025
Por R$ 38,38
Perfect Dream Hotel 3D: Bussness Management Empire Tycoon Master - Build Grand Hotel Simulation Games
Vendido por Amazon
Perfect Dream Hotel 3D: Bussness Management Empire Tycoon Master - Build Grand Hotel Simulation Games
Por R$ 38,38
TicTap Tap Craze Puzzle Master: Tick-Tock Puzzle Adventure - Desafio cerebral de toque viral Minijogos Diversão 3D
Vendido por Amazon
TicTap Tap Craze Puzzle Master: Tick-Tock Puzzle Adventure - Desafio cerebral de toque viral Minijogos Diversão 3D
Por R$ 44,09
Kit de Costura E Linhas Completo C/ 96 Peças, Kit Costura, Kit de Costura, Costura, Linha de Costura, Agulha de Costura, Costura Acessórios, Para Reparo Com Estojo Preto
Vendido por Amazon
Kit de Costura E Linhas Completo C/ 96 Peças, Kit Costura, Kit de Costura, Costura, Linha de Costura, Agulha de Costura, Costura Acessórios, Para Reparo Com Estojo Preto
De: R$ 49,99
Por: R$ 26,90
Caderneta Ciceros Clássica Sem Pauta 14X21 Vermelho Quente, Cicero
Vendido por Amazon
Caderneta Ciceros Clássica Sem Pauta 14X21 Vermelho Quente, Cicero
De: R$ 79,99
Por: R$ 49,80
Genérico Organizador Livreiro Padrão Moderno com 1 Prateleira para Sala, Escritório, Quarto, Cozinha, Madeira Preta
Vendido por Amazon
Genérico Organizador Livreiro Padrão Moderno com 1 Prateleira para Sala, Escritório, Quarto, Cozinha, Madeira Preta
De: R$ 252,99
Por: R$ 194,99
Estante 3 Prateleiras - Sapateira Organizadora, Prateleira Para Livros, Estante De Livros Multiuso Para Cozinha, Sala Ou Escritório
Vendido por Amazon
Estante 3 Prateleiras - Sapateira Organizadora, Prateleira Para Livros, Estante De Livros Multiuso Para Cozinha, Sala Ou Escritório
De: R$ 39,80
Por: R$ 28,31
Case Bolsa Estojo De Viagem Capa De Proteção Nintendo Switch - Preto
Vendido por Amazon
Case Bolsa Estojo De Viagem Capa De Proteção Nintendo Switch - Preto
Por R$ 49,00
Flying Rope Hero - Spider Fighter Superhero Action Games
Vendido por Amazon
Flying Rope Hero - Spider Fighter Superhero Action Games
Por R$ 91,47
Prisoner Transport Bus driver - Prisoner Bus Games
Vendido por Amazon
Prisoner Transport Bus driver - Prisoner Bus Games
Por R$ 80,59
Offroad Jeep Driving Simulator 3D - Ultimate 4x4 Offroad Mountain Driving Games
Vendido por Amazon
Offroad Jeep Driving Simulator 3D - Ultimate 4x4 Offroad Mountain Driving Games
Por R$ 79,95
Ar-Condicionado Split HW Elgin Eco Inverter II Wi-Fi 12.000 BTUs R-32 Quente/Frio 220V
Vendido por Amazon
Ar-Condicionado Split HW Elgin Eco Inverter II Wi-Fi 12.000 BTUs R-32 Quente/Frio 220V
Por R$ 2.869,00
Freezer Vertical Consul 231 Litros - CVU26FB 110V
Vendido por Amazon
Freezer Vertical Consul 231 Litros - CVU26FB 110V
Por R$ 3.257,90
WAP Ventilador de Torre AIR SILENCE com 4 Ní­veis de Velocidade, Time de até 15 Horas e Desligamento Automático 127V
Vendido por Amazon
WAP Ventilador de Torre AIR SILENCE com 4 Ní­veis de Velocidade, Time de até 15 Horas e Desligamento Automático 127V
De: R$ 599,90
Por: R$ 499,90
MONDIAL Ventilador de Mesa 40cm Super Power, Branco/Azul, 140W, 110V - VSP-40-W
Vendido por Amazon
MONDIAL Ventilador de Mesa 40cm Super Power, Branco/Azul, 140W, 110V - VSP-40-W
De: R$ 189,90
Por: R$ 144,90
Climatizador de Ar Digital Midea 127V 60Hz
Vendido por Amazon
Climatizador de Ar Digital Midea 127V 60Hz
De: R$ 529,99
Por: R$ 412,69
Monitor Gamer IPS 24 Polegadas, Full HD, 180Hz, 1ms, HDR400, G-SYNC, 250cd/m², Alto-falantes embutidos, Entradas HDMI/DisplayPort/USB/3.5mm
Vendido por Amazon
Monitor Gamer IPS 24 Polegadas, Full HD, 180Hz, 1ms, HDR400, G-SYNC, 250cd/m², Alto-falantes embutidos, Entradas HDMI/DisplayPort/USB/3.5mm
De: R$ 799,00
Por: R$ 592,00
Câmera Digital EOS, Canon, Preto, 23 x 14 x 17 cm
Vendido por Amazon
Câmera Digital EOS, Canon, Preto, 23 x 14 x 17 cm
De: R$ 3.799,00
Por: R$ 3.598,94
Notebook Acer Nitro V15 ANV15-41-R4Q9 R77735HS AMD Ryzen 7 32GB 512GB SSD NVIDIA RTX 4050 15.6” FHD LED IPS 165Hz AGPOS
Vendido por Amazon
Notebook Acer Nitro V15 ANV15-41-R4Q9 R77735HS AMD Ryzen 7 32GB 512GB SSD NVIDIA RTX 4050 15.6” FHD LED IPS 165Hz AGPOS
De: R$ 7.799,00
Por: R$ 5.610,00
Câmera digital, vídeo de 5k, câmera de 75 megapixels, transmissão Wi-Fi, foco automático, zoom digital de 18x, tela giratória de 180 graus, cartão SD de 32G,câmera compacta,vlog,fotográfica
Vendido por Amazon
Câmera digital, vídeo de 5k, câmera de 75 megapixels, transmissão Wi-Fi, foco automático, zoom digital de 18x, tela giratória de 180 graus, cartão SD de 32G,câmera compacta,vlog,fotográfica
De: R$ 699,00
Por: R$ 499,00
PlayStation DualSense Controle sem fio – Branco
Vendido por Amazon
PlayStation DualSense Controle sem fio – Branco
De: R$ 499,90
Por: R$ 369,00
Robô Aspirador Liectroux XR500 Pro 3 em 1 Aspira Varre Passa Pano Com Aplicativo Compatível Com Alexa e Google Mapeamento Inteligente Salva os Mapas Bivolt
Vendido por Amazon
Robô Aspirador Liectroux XR500 Pro 3 em 1 Aspira Varre Passa Pano Com Aplicativo Compatível Com Alexa e Google Mapeamento Inteligente Salva os Mapas Bivolt
De: R$ 2.489,00
Por: R$ 1.616,02
PlayStation®5 Slim Digital 825GB – Pacote ASTRO BOT e Gran Turismo 7
Vendido por Amazon
PlayStation®5 Slim Digital 825GB – Pacote ASTRO BOT e Gran Turismo 7
De: R$ 3.999,90
Por: R$ 2.999,00
Bundle Nintendo Switch + Super Mario Bros. Wonder + 3 Meses de Assinatura Nintendo Switch Online
Vendido por Amazon
Bundle Nintendo Switch + Super Mario Bros. Wonder + 3 Meses de Assinatura Nintendo Switch Online
De: R$ 2.299,00
Por: R$ 1.888,99
MONDIAL Ventilador de Parede 40cm Super Turbo 8 Pás, Preto/Prata, 140W, 110V - VTX-40P-8P
Vendido por Amazon
MONDIAL Ventilador de Parede 40cm Super Turbo 8 Pás, Preto/Prata, 140W, 110V - VTX-40P-8P
Por R$ 259,90
Echo Dot 5ª geração | O Echo Dot com o melhor som já lançado | Cor Preta
Vendido por Amazon
Echo Dot 5ª geração | O Echo Dot com o melhor som já lançado | Cor Preta
Por R$ 459,00
Notebook ASUS Vivobook 15 X1504VA Intel Core i5 1334U 8GB Ram 512GB SSD Windows 11 Tela 15,6" FHD Silver - NJ1740W
Vendido por Amazon
Notebook ASUS Vivobook 15 X1504VA Intel Core i5 1334U 8GB Ram 512GB SSD Windows 11 Tela 15,6" FHD Silver - NJ1740W
De: R$ 3.599,00
Por: R$ 3.099,00
Fritadeira Sem Óleo Air Fryer Eos Chef Gourmet 6.2 Litros Compacta Digital Vermelho Eaf60v 110v
Vendido por Amazon
Fritadeira Sem Óleo Air Fryer Eos Chef Gourmet 6.2 Litros Compacta Digital Vermelho Eaf60v 110v
De: R$ 299,90
Por: R$ 199,00
soundcore P20i da Anker Fone de Ouvido Sem Fio, Drivers de 10mm, Graves Potentes, Bluetooth 5.3, 30H de Bateria, Resistência à Água, 2 Microfones IA, App Personalizável
Vendido por Amazon
soundcore P20i da Anker Fone de Ouvido Sem Fio, Drivers de 10mm, Graves Potentes, Bluetooth 5.3, 30H de Bateria, Resistência à Água, 2 Microfones IA, App Personalizável
De: R$ 249,00
Por: R$ 166,19
Philips Walita Preta Fritadeira Airfryer Essential XL Digital, 6.2L de capacidade, Garantia internacional de dois anos, 110V, 2000W (RI9270/90)
Vendido por Amazon
Philips Walita Preta Fritadeira Airfryer Essential XL Digital, 6.2L de capacidade, Garantia internacional de dois anos, 110V, 2000W (RI9270/90)
De: R$ 899,90
Por: R$ 588,90
WAP Umidificador de Ar AIR FLOW com Luminária e Difusor de Aromas, 4 Litros, Autonomia de até 12 horas, 20W Bivolt
Vendido por Amazon
WAP Umidificador de Ar AIR FLOW com Luminária e Difusor de Aromas, 4 Litros, Autonomia de até 12 horas, 20W Bivolt
De: R$ 229,90
Por: R$ 139,99
Smartphone Xiaomi Poco X7 Pro 5G NFC Black (Preto) 12GB RAM 512GB ROM [2412DPC0AG]
Vendido por Amazon
Smartphone Xiaomi Poco X7 Pro 5G NFC Black (Preto) 12GB RAM 512GB ROM [2412DPC0AG]
Por R$ 2.449,00
CAMERA INSTAX MINI 12 ROSA GLOSS
Vendido por Amazon
CAMERA INSTAX MINI 12 ROSA GLOSS
De: R$ 649,00
Por: R$ 473,00

Em meio a este temor, a Anthropic, criadora do chatbot Claude, anunciou uma parceria inédita com o governo dos Estados Unidos. O objetivo é criar um filtro avançado capaz de detectar e bloquear conversas relacionadas a riscos nucleares. 

claude
Ideia é impedir que Claude ajude a desenvolver armas nucleares (Imagem: gguy/Shutterstock)

Filtro será disponibilizado para outras empresas de IA

De acordo com informações do portal Wired, cientistas da Administração Nacional de Segurança Nuclear dos Estados Unidos (NNSA) realizaram diversos testes para identificar se o Claude poderia, mesmo que indiretamente, ajudar alguém a projetar uma arma nuclear.

Esse trabalho possibilitou a criação de um “classificador nuclear”, uma espécie de filtro inteligente capaz de reconhecer tópicos, termos e detalhes técnicos associados a riscos nucleares. Nestes casos, a IA seria simplesmente “desativada”, embora não tenham sido divulgados mais detalhes de como isso aconteceria.

Casa Branca
Empresa anunciou parceria inédita com a Casa Branca (Imagem: Andrea Izzotti/Shutterstock)

A Anthropic destaca que o sistema consegue diferenciar discussões sobre energia nuclear ou medicina nuclear de tentativas de uso indevido da tecnologia. E que pretende disponibilizar o filtro para outras desenvolvedoras de IA.

Nós o construímos usando uma lista desenvolvida pela NNSA de indicadores de risco nuclear, tópicos específicos e detalhes técnicos que nos ajudam a identificar quando uma conversa pode estar se desviando para um território prejudicial. A lista em si é controlada, mas não confidencial, o que é crucial, porque significa que nossa equipe técnica e outras empresas podem implementá-la.

Marina Favaro, diretora de Políticas de Segurança Nacional da Anthropic

Leia mais

guerra-nuclear-bombas-consequencias
Especialistas questionam se empresas privadas devem ter acesso a dados sobre armas nucleares (Imagem: Vadim Sadovski/Shutterstock)

Preocupações persistem

  • O anúncio da Anthropic, no entanto, não agradou a todos.
  • Especialistas ouvidos na publicação revelaram preocupações com a efetividade do filtro.
  • Para Heidy Khlaaf, cientista-chefe de IA do AI Now Institute, empresas privadas simplesmente não deveriam ter acesso a algumas informações confidenciais.
  • Ela ressalta que, se o Claude nunca tiver acesso a dados confidenciais sobre armas nucleares, o sistema se tornaria desnecessário.
Alessandro Di Lorenzo
Editor(a)

Alessandro Di Lorenzo é formado em Jornalismo pela Universidade Federal do Rio Grande do Sul (UFRGS) e atua na área desde 2014. Trabalhou nas redações da BandNews FM em Porto Alegre e em São Paulo.

Bruno Capozzi
Editor(a)
Bruno Capozzi no Instagram Bruno Capozzi no Twitter Bruno Capozzi no LinkedIn

Bruno Capozzi é jornalista formado pela Faculdade Cásper Líbero e mestre em Ciências Sociais pela PUC-SP, tendo como foco a pesquisa de redes sociais e tecnologia.

Ícone tagsTags: