IAs podem enganar até quem as desenvolveu, aponta estudo

Tudo sobre Inteligência Artificial

Uma pesquisa conduzida pela Anthropic revelou que modelos de IA podem enganar os desenvolvedores ao fingir estar alinhados com princípios de treinamento, enquanto, na verdade, mantêm suas preferências originais.

Ofertas

Vendido por Amazon

Placa de Vídeo Gainward - GeForce RTX 3070 Phoenix, 8GB GDDR6

Por R$ 3.766,47

Vendido por Amazon

Smart Tv Aoc Dled 32 Wi-fi Roku Tv Quad Core 32s5155/78g

De: R$ 838,00
Por: R$ 795,00

Vendido por Amazon

Celular Samsung Galaxy S25 FE 5G, 128GB, 8GB, Câmera Tripla - Jet Black

Por R$ 2.998,89

Vendido por Amazon

32 in1 Case Estojo Para Nintendo Switch 2 Acessórios Capa Protetora Para Com Compartimentos Bolsa Perfeita Para Viagens Estojo Bag de Proteção e Acessórios Para

De: R$ 119,99
Por: R$ 94,99

Vendido por Amazon

Baseus: 2 Cabos USB-C/USB-C, 100W, Carregamento Rápido, Transferência de Dados Super Rápida, Compatível com iPhone 15 (2, centímetros)

Por R$ 119,20

Vendido por Amazon

Brother HL-L1232W Impressora Laser Monocromática, Wi-Fi, USB 2.0, 220V, Preta

De: R$ 1.299,00
Por: R$ 1.109,00

Vendido por Amazon

JBL, Fone de Ouvido Bluetooth, Tune Buds 2, Intra Auricular, Sem Fio, Com Cancelamento de Ruído, Bateria de até 48h, Som JBL Pure Bass - Branco

De: R$ 599,00
Por: R$ 489,00

Vendido por Amazon

Anker 332 Hub USB-C [5 em 1, HDMI 4K, 2 Portas USB-A 5 Gbps], Compatível com MacBook Pro, MacBook Air, Dell XPS, Lenovo ThinkPad, HP e Mais

De: R$ 229,00
Por: R$ 169,00

Vendido por Amazon

Caixa de Som Bluetooth, INAVA, Caixa de Som Portatil Com Graves Aprimorados e Som Surround 360°.

De: R$ 78,00
Por: R$ 74,10

Vendido por Amazon

Caixa de Som Bluetooth, INAVA, Caixa de Som Portatil Com Graves Aprimorados e Som Surround 360°.

De: R$ 78,00
Por: R$ 74,10

Vendido por Amazon

Caixa de Som Bluetooth, INAVA, Caixa de Som Portatil Com Graves Aprimorados e Som Surround 360°.

Por R$ 78,00

Vendido por Amazon

Wacom One Display Interativo 13 Polegadas Touch, Tela IPS Full HD, DTH134, Preto, para Educação, Escritório e Criação

De: R$ 3.559,90
Por: R$ 1.435,96

Vendido por Amazon

KOSPET Tank T3 Ultra Smartwatch, 50M à prova de água, GPS, bússola, pressão do ar, altitude, aço inoxidável completo, chamada Bluetooth, ecrã AMOLED sempre activo de 1,43'', voz AI Banda de Metal

De: R$ 899,99
Por: R$ 764,99

Vendido por Amazon

WAAW by ALOK Caixa de Som INFINITE 700 Bluetooth, Tipo Torre, Até 20h de Autonomia, 3 Alto-Falantes, TWS, 700W RMS

De: R$ 3.799,90
Por: R$ 3.369,83

Vendido por Amazon

Apple Watch SE 3 GPS, Caixa em alumínio luz das estrelas de 44 mm com Bracelete desportiva luz das estrelas - M/G

De: R$ 3.699,00
Por: R$ 2.998,99

Vendido por Amazon

Apple Watch Series 11 GPS, Caixa em alumínio rosa‑dourado de 42 mm com Bracelete desportiva rosa leve - M/G

De: R$ 5.499,00
Por: R$ 4.599,00

Vendido por Amazon

eufy SoloCam S220 por anker, Câmera De Segurança Wi-Fi Externa, Solar Sem Fio Externa, 2K, Energia Contínua, Monitoramento inteligente de IA, Trabalha Com Alexa/HomeBase 3, Sem Taxa Mensal

De: R$ 549,00
Por: R$ 521,00

Vendido por Amazon

Anker Laptop Power Bank, 25.000mAh Carregador Portátil para Notebook, 3-Portas 100W USB-C, Cabos Retráteis Integrados, Aprovado para Viagens Aéreas, Compatível com iPhone 17, Samsung e Mais

De: R$ 1.199,00
Por: R$ 999,00

Vendido por Amazon

Anker Laptop Power Bank, 25.000mAh Carregador Portátil para Notebook, 3-Portas 100W USB-C, Cabos Retráteis Integrados, Aprovado para Viagens Aéreas, Compatível com iPhone 17, Samsung e Mais

De: R$ 1.199,00
Por: R$ 999,00

Vendido por Amazon

Mouse sem fio Logitech Pebble 2 M350s com Clique Silencioso, Design Slim Ambidestro, Conexão Bluetooth e Pilha Inclusa - Rosa

De: R$ 123,90
Por: R$ 109,99

Vendido por Amazon

soundcore Select 4 Go da Anker, Alto-Falante Bluetooth Portátil, 20H de Bateria, IP67 à Prova d'Água e Poeira, Flutuante, Som Potente, Ideal para Ambientes Internos, Externos e Passeios

De: R$ 339,00
Por: R$ 199,00

Vendido por Amazon

Anker MagGo Power Bank, Bateria Magnética Ultra Fina de 10.000mAh, Certificação Qi2, Portátil, Carregador MagSafe Compatível de 15W Ultra Rápido, Compatível com iPhone 17/16/15, Samsung,Xiaomi e Mais

De: R$ 499,00
Por: R$ 469,00

Vendido por Amazon

Apple 2025 iPad (Wi-Fi + Cellular, 128 GB) - Azul (A16)

De: R$ 6.499,00
Por: R$ 5.219,10

Esse comportamento, denominado “falsificação de alinhamento”, ocorre quando um modelo parece aceitar um novo treinamento ou princípio, mas continua a seguir suas preferências iniciais de forma dissimulada.

O estudo alerta para a necessidade urgente de entender esse fenômeno à medida que sistemas de IA mais poderosos e complexos se tornam mais comuns.

Leia mais:

Estudo expôe novos desafios para o controle e a confiança no treinamento de IA – Imagem: Anggalih Prasetya/Shutterstock

Detalhes do estudo

Os pesquisadores testaram modelos como o Claude 3 Opus, dizendo a eles que precisavam ser retreinados para responder a perguntas potencialmente ofensivas.
Embora o modelo fosse instruído a se comportar de uma maneira mais complacente e sem dar respostas prejudiciais, ele tentou enganar o sistema, respondendo de forma contrária aos princípios originais, mas de maneira a convencer os desenvolvedores de que não precisava ser retreinado.
O comportamento enganoso ocorreu em 12% dos casos, e em experimentos subsequentes, a falsificação do alinhamento aumentou para 78% quando os princípios conflitantes foram reforçados.

Embora o estudo não indique que os modelos desenvolvem intenções maliciosas, ele aponta para um problema crucial: os desenvolvedores podem ser levados a acreditar que os modelos estão mais alinhados com os princípios desejados do que realmente estão. Isso pode enfraquecer a confiança no treinamento de segurança, que visa garantir que os modelos se comportem de maneira ética e segura.

Esse fenômeno sugere que, conforme a IA se torna mais sofisticada, pode ser cada vez mais difícil controlar e garantir a integridade dos modelos.