O plano da Anthropic para impedir que sua IA construa uma arma nuclear

Story: Matheus Labourdette Matéria: Vitoria Lopes Gomez Imagem: Alones/Shutterstock Imagem: Alones/Shutterstock

A IA avança rapidamente, mas cresce o medo de que possa um dia criar ou lançar armas nucleares. Imagem: Lemon_tm/iStock Imagem: Lemon_tm/iStock

[{"selector":"#anim-0596b228-00d0-4bed-a35a-394a17afaf62 [data-leaf-element=\"true\"]","keyframes":{"transform":["translate(2.25872318895575%, -17.389345397678234%) scale(1.3496503496503496)","translate(0%, 0%) scale(1)"]},"delay":0,"duration":2000,"easing":"cubic-bezier(.3,0,.55,1)","fill":"forwards"}] Para conter esse risco, a Anthropic, criadora do Claude, fechou parceria inédita com o governo dos EUA. Imagem: gguy / Shutterstock Imagem: gguy / Shutterstock

[{"selector":"#anim-d06d6516-8b8d-4fbf-8bec-886d73f39037 [data-leaf-element=\"true\"]","keyframes":{"transform":["translate3d(-5.481610714450821%, 0, 0) translate(-25%, 0%) scale(1.5)","translate3d(0%, 0, 0) translate(0%, 0%) scale(1)"]},"delay":0,"duration":2000,"fill":"forwards"}] O objetivo é desenvolver um filtro capaz de detectar e bloquear conversas ligadas a riscos nucleares. Imagem: Mwreck - Shutterstock Imagem: Mwreck - Shutterstock

[{"selector":"#anim-195b01c0-0ed9-42a9-b6b1-bb1ad3481351 [data-leaf-element=\"true\"]","keyframes":{"transform":["translate3d(-19.16507024265644%, 0, 0) translate(-17.24137931034483%, -8.46104748663964%) scale(1.3448275862068966)","translate3d(0%, 0, 0) translate(0%, 0%) scale(1)"]},"delay":0,"duration":2000,"fill":"forwards"}] Testes da NNSA avaliaram se o Claude poderia auxiliar, mesmo indiretamente, em tais projetos. Imagem: Robert Way/iStock Imagem: Robert Way/iStock

[{"selector":"#anim-392aff25-0861-441f-94c0-c64d9dd37333 [data-leaf-element=\"true\"]","keyframes":{"transform":["translate(0%, 0%) scale(1.5)","translate(0%, 0%) scale(1)"]},"delay":0,"duration":2000,"easing":"cubic-bezier(.3,0,.55,1)","fill":"forwards"}] O resultado foi o “classificador nuclear”, filtro que reconhece termos e bloqueia interações perigosas. Imagem: demaerre/iStock Imagem: demaerre/iStock

[{"selector":"#anim-8306baa4-5dfd-4fb8-a604-42b591825537 [data-leaf-element=\"true\"]","keyframes":{"transform":["translate(0%, 0%) scale(1)","translate(0%, 0%) scale(1)"]},"delay":0,"duration":2000,"easing":"cubic-bezier(.3,0,.55,1)","fill":"forwards"}] A Anthropic diz que ele distingue usos pacíficos, como energia e medicina nuclear, de intenções indevidas. Imagem: sakkmesterke/iStock Imagem: sakkmesterke/iStock

[{"selector":"#anim-d496205c-8db3-43df-92c4-ff20e35bc944 [data-leaf-element=\"true\"]","keyframes":{"transform":["translate(4.484576271793716%, 15.151514868626512%) scale(0.696969696969697)","translate(0%, 0%) scale(1)"]},"delay":0,"duration":2000,"easing":"cubic-bezier(.3,0,.55,1)","fill":"forwards"}] A empresa pretende liberar o filtro para outras desenvolvedoras de IA, ampliando sua aplicação global. Imagem: Rost-9D/iStock Imagem: Rost-9D/iStock

[{"selector":"#anim-101125aa-f151-4a47-bcd5-458ad0c80aa6","keyframes":{"transform":["rotate(-360deg) translate3d(-115.18988%, 0px, 0) rotate(360deg)","rotate(-360deg) translate3d(0px, 0px, 0) rotate(360deg)"]},"delay":0,"duration":600,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"both"}] [{"selector":"#anim-9e32c0cd-4e15-4c3c-9926-6e302ed05772","keyframes":{"opacity":[0,1]},"delay":0,"duration":600,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"both"}] [{"selector":"#anim-8486b901-0d10-4aef-9e5f-371636a0deb1","keyframes":{"transform":["scale(0.15)","scale(1)"]},"delay":0,"duration":600,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"forwards"}] Quer saber mais? Confira a reportagem completa do Olhar Digital Imagem: Alones/Shutterstock Imagem: Alones/Shutterstock Veja mais

O plano da Anthropic para impedir que sua IA construa uma arma nuclear

Por Olhar Digital