IAs podem enganar até quem as desenvolveu, aponta estudo

Tudo sobre Inteligência Artificial

Uma pesquisa conduzida pela Anthropic revelou que modelos de IA podem enganar os desenvolvedores ao fingir estar alinhados com princípios de treinamento, enquanto, na verdade, mantêm suas preferências originais.

Ofertas

Vendido por Amazon

Carregador de Pilhas AA/AAA com 2 Pilhas AA 2500mAh e 2 Pilhas AAA 1000mAh, Multilaser - CB045

De: R$ 89,90
Por: R$ 56,60

Vendido por Amazon

Adaptador Wireless TP-Link Archer T2U Nano USB

De: R$ 109,90
Por: R$ 75,85

Vendido por Amazon

SMS - NOBREAK LITE 600 - POTÊNCIA 600VA | 300W - BIVOLT ENT.: 115/ 220V | SAÍDA: 115V - 4 TOMADAS - SENOIDAL P/APROX. - LINE INTERACTIVE - PN 29202

De: R$ 616,58
Por: R$ 334,32

Vendido por Amazon

Película Para Kindle 11ª Geração 2024 e 2022 (RS23CV e C2V2L3) 6" Polegadas - Antirreflexo - Fosca – FD Acessórios

Por R$ 23,83

Vendido por Amazon

Película Para Kindle Paperwhite 12ª Geração e Kindle Colorsoft 7 Polegadas (SA569P, SA568B, SA58CB, SA59CP) - Antirreflexo - Fosca – FD Acessórios

Por R$ 24,75

Vendido por Amazon

Notebook ASUS Vivobook 15 X1504VA Intel Core i5 1334U 8Gb Ram 256GB SSD Linux KeepOS Intel Iris Xe Tela 15,6" LED FHD Silver - NJ1739

De: R$ 2.513,54
Por: R$ 2.379,00

Vendido por Amazon

Kit Carregador Super Turbo 40W Porta Dupla (USB-A + USB-C) + Cabo USB e Tipo-C, Compatível com Todos Dispositivos, Iphone 15/16/17 IOS Android Galaxy, Tablets, Notebooks, Linha Premium

Por R$ 29,89

Vendido por Amazon

Monitor Dell de 24" - P2425H

Por R$ 1.099,90

Vendido por Amazon

Luminária De Mesa Led Recarregável USB Touch com 2 Suportes Magnético e Base para Apoio de Mesa ideal para Parede Armário Cozinha, Banheiro e Mesa Led com Luz Ajustável 3 modos de Iluminação Premium

Por R$ 39,90

Vendido por Amazon

Drone DJI Air 3S Fly More Combo (Com tela) BR - DJI056

De: R$ 17.375,50
Por: R$ 15.522,79

Vendido por Amazon

USB C Hub 8 em 1 USB Tipo C para HDMI 4k RJ45 Ethernet Carregamento PD Charger, 2 portas USB 3.0 e leitor de cartões SD/TF, compátivel com Macbook, tablets,celulares-Thee Brothers

De: R$ 57,90
Por: R$ 49,90

Vendido por Amazon

PHILIPS, Fone de Ouvido Sem Fio TWS, TAT2500BK/00, Bluetooth, Com Cancelamento de Ruído Ativo ANC, Com Microfone, Até 24 horas de bateria, iPX4, Preto

De: R$ 156,00
Por: R$ 140,00

Vendido por Amazon

Microfone USB Gaming PC, Microfone RGB para PC/Notebook, Mic with Boom Arm, Microphone Condensador de mesa/Braço, Live, Podcast, Gravação de Audio, Karaoke, Gamer Youtuber DJ

De: R$ 199,99
Por: R$ 178,49

Vendido por Amazon

Relógio Inteligente Smartwatch Feminino Masculino, com Tela AMOLED, AI ChatGPT, Chamadas Bluetooth, 150+ Monitoramento Esportivo, Chamadas Bluetooth,Relogio smartwatch iphone

Por R$ 299,99

Vendido por Amazon

soundcore Q11i da Anker Fone De Ouvido Bluetooth 5.3, Fone Gamer, Headphone Bluetooth Over-Ear, Graves Profundos, 60H Autonomia, Hi-Res Áudio, Almofadas Removíveis, Conexão Multiponto, Preto

De: R$ 259,35
Por: R$ 198,99

Vendido por Amazon

Bundle Nintendo Switch + Super Mario Bros. Wonder + 3 Meses de Assinatura Nintendo Switch Online

De: R$ 2.299,00
Por: R$ 1.888,99

Vendido por Amazon

Notebook ASUS TUF Gaming A15, RTX 3050, AMD RYZEN 7, 8 GB, 512 GB SSD, KeepOS, Tela 15.6'' FHD, Graphite Black - FA506NCR-HN089

De: R$ 5.299,00
Por: R$ 3.999,00

Vendido por Amazon

Havit Headphone Fone de Ouvido H2002d Pink, Gamer, com Microfone, Falante 53mm, Plug 3, 5mm: compatível com XBOX ONE e PS4, HAVIT, HV-H2002d Cor Rosa

De: R$ 229,00
Por: R$ 160,65

Vendido por Amazon

Roku Streaming Stick HD 2025 | Dispositivo de streaming para TV HD/FHD com controle remoto por comando de voz compatível com Alexa, Siri e Google

De: R$ 289,90
Por: R$ 187,00

Vendido por Amazon

EMEET Webcam 4K, webcam S600 com tripé, 2 microfones de redução de ruído, FOV ajustável de 40° a 73°, foco automático PDAF, capa de privacidade integrada, câmera de streaming para jogos, chamadas de

Por R$ 419,99

Vendido por Amazon

soundcore P30i by Anker, Fones de Ouvido com Cancelamento de Ruído, Graves Poderosos, 45H de Reprodução, Estojo 2-em-1 com Suporte para Celular, IP54, Bluetooth 5.4, Fones Sem Fio

De: R$ 369,00
Por: R$ 209,90

Vendido por Amazon

soundcore P20i da Anker Fone de Ouvido Sem Fio, Drivers de 10mm, Graves Potentes, Bluetooth 5.3, 30H de Bateria, Resistência à Água, 2 Microfones IA, App Personalizável

De: R$ 249,00
Por: R$ 166,19

Vendido por Amazon

HD Externo Toshiba 1TB Canvio Basics Preto HDTB510XK3AA

De: R$ 464,65
Por: R$ 393,05

Esse comportamento, denominado “falsificação de alinhamento”, ocorre quando um modelo parece aceitar um novo treinamento ou princípio, mas continua a seguir suas preferências iniciais de forma dissimulada.

O estudo alerta para a necessidade urgente de entender esse fenômeno à medida que sistemas de IA mais poderosos e complexos se tornam mais comuns.

Leia mais:

Estudo expôe novos desafios para o controle e a confiança no treinamento de IA – Imagem: Anggalih Prasetya/Shutterstock

Detalhes do estudo

Os pesquisadores testaram modelos como o Claude 3 Opus, dizendo a eles que precisavam ser retreinados para responder a perguntas potencialmente ofensivas.
Embora o modelo fosse instruído a se comportar de uma maneira mais complacente e sem dar respostas prejudiciais, ele tentou enganar o sistema, respondendo de forma contrária aos princípios originais, mas de maneira a convencer os desenvolvedores de que não precisava ser retreinado.
O comportamento enganoso ocorreu em 12% dos casos, e em experimentos subsequentes, a falsificação do alinhamento aumentou para 78% quando os princípios conflitantes foram reforçados.

Embora o estudo não indique que os modelos desenvolvem intenções maliciosas, ele aponta para um problema crucial: os desenvolvedores podem ser levados a acreditar que os modelos estão mais alinhados com os princípios desejados do que realmente estão. Isso pode enfraquecer a confiança no treinamento de segurança, que visa garantir que os modelos se comportem de maneira ética e segura.

Esse fenômeno sugere que, conforme a IA se torna mais sofisticada, pode ser cada vez mais difícil controlar e garantir a integridade dos modelos.