Como poemas conseguem contornar sistemas de segurança em IA

Siga o Olhar Digital no Google Discover

Tudo sobre Inteligência Artificial

ver mais

Gosta de poesias? Então saiba que, segundo pesquisadores, elas podem enganar chatbots, como o ChatGPT.

Ofertas

Vendido por Amazon

Placa de Video MSI RTX 5060 Shadow 2X OC, 8GB, GDDR7-912-V537-037

De: R$ 2.920,14
Por: R$ 2.240,00

Vendido por Amazon

Ar-Condicionado Split HW Elgin Eco Inverter II Wi-Fi 12.000 BTUs R-32 Quente/Frio 220V

De: R$ 2.499,00
Por: R$ 1.998,89

Vendido por Amazon

Freezer Vertical Consul 231 Litros - CVU26FB 110V

De: R$ 3.279,35
Por: R$ 2.498,89

Vendido por Amazon

WAP Ventilador de Torre AIR SILENCE com 4 Ní­veis de Velocidade, Time de até 15 Horas e Desligamento Automático 127V

De: R$ 599,90
Por: R$ 404,90

Vendido por Amazon

MONDIAL Ventilador de Mesa 40cm Super Power, Branco/Azul, 140W, 110V - VSP-40-W

De: R$ 189,90
Por: R$ 129,90

Vendido por Amazon

Climatizador de Ar Digital Midea 127V 60Hz

De: R$ 529,99
Por: R$ 412,69

Vendido por Amazon

Monitor Gamer IPS 24 Polegadas, Full HD, 180Hz, 1ms, HDR400, G-SYNC, 250cd/m², Alto-falantes embutidos, Entradas HDMI/DisplayPort/USB/3.5mm

De: R$ 799,00
Por: R$ 593,00

Vendido por Amazon

Câmera Digital EOS, Canon, Preto, 23 x 14 x 17 cm

De: R$ 3.799,00
Por: R$ 3.598,94

Vendido por Amazon

Anker MagGo Power Bank, Bateria Magnética Ultra Fina de 10.000mAh, Certificação Qi2, Portátil, Carregador MagSafe Compatível de 15W Ultra Rápido, Compatível com iPhone 17/16/15, Samsung,Xiaomi e Mais

De: R$ 649,00
Por: R$ 469,00

Vendido por Amazon

Notebook Acer Nitro V15 ANV15-41-R4Q9 R77735HS AMD Ryzen 7 32GB 512GB SSD NVIDIA RTX 4050 15.6” FHD LED IPS 165Hz AGPOS

De: R$ 7.799,00
Por: R$ 5.610,00

Vendido por Amazon

Pentel Tinta Aquarela Wfrs Arts à Base de Água 24 Cores WFRS-24

De: R$ 94,90
Por: R$ 88,50

Vendido por Amazon

Luminária de Mesa LED Bola de Cristal 3D Space Brilhante (Via Láctea)

De: R$ 79,00
Por: R$ 19,99

Vendido por Amazon

Tablet Infantil Princesas com Controle Parental 4GB RAM + 64GB + Tela 7 pol + Case + Wi-fi + Android 13 + Quad Core Multi - NB418

De: R$ 559,99
Por: R$ 449,00

Vendido por Amazon

Kit Câmera Instax Mini 12 com pack 10 fotos Mermaid Tail e Bolsa Lilás

De: R$ 749,00
Por: R$ 597,00

Vendido por Amazon

Visions of Mana - PlayStation 5

De: R$ 299,90
Por: R$ 209,90

Vendido por Amazon

Cabo USB-C Turbo 2 Metros Tipo C 60W Nylon Trançado e Reforçado Compativel Com Iphone 15, Iphone 16 Notebook Tablet Qualidade Premium Carregamento Transferência de Dados Compativel ANDROID

Por R$ 23,88

Vendido por Amazon

Câmera digital, vídeo de 5k, câmera de 75 megapixels, transmissão Wi-Fi, foco automático, zoom digital de 18x, tela giratória de 180 graus, cartão SD de 32G,câmera compacta,vlog,fotográfica

De: R$ 699,00
Por: R$ 499,00

Vendido por Amazon

Soundbar Samsung HW-B400F, com 2.0 canais, Bluetooth, Subwoofer integrado e HDMI ARC

De: R$ 849,00
Por: R$ 720,00

Vendido por Amazon

Tablet Lenovo Tab K11 Octa-Core 4GB 128GB Wi-Fi Android 13 11" WUXGA com caneta e capa protetora ZADC0075BR

De: R$ 1.559,00
Por: R$ 1.481,05

Vendido por Amazon

Samsung Galaxy Buds3, Fone de Ouvido sem fio, Cancelamento ativo de Ruído, Galaxy AI - Branco

De: R$ 1.699,00
Por: R$ 979,90

Vendido por Amazon

Controles Nintendo Joy-Con™ Azul Neon e Vermelho Neon

De: R$ 499,00
Por: R$ 419,00

Vendido por Amazon

Philco, PAC12000F5, Ar-Condicionado Portátil Frio Vírus Protect, 220V, Branco

De: R$ 3.300,00
Por: R$ 2.315,00

Vendido por Amazon

PlayStation DualSense Controle sem fio – Branco

De: R$ 499,90
Por: R$ 379,00

Vendido por Amazon

Robô Aspirador Liectroux XR500 Pro 3 em 1 Aspira Varre Passa Pano Com Aplicativo Compatível Com Alexa e Google Mapeamento Inteligente Salva os Mapas Bivolt

De: R$ 2.489,00
Por: R$ 1.616,02

Vendido por Amazon

Câmera de vídeo digital 8K 64MP,Transmissão WiFi, Zoom de 18X,Tela sensível ao toque de 3,0 polegadas, microfone externo, controle remoto, duas baterias, visão noturna infravermelha,64 GB

De: R$ 1.099,00
Por: R$ 788,40

Vendido por Amazon

MONDIAL Ventilador de Parede 40cm Super Turbo 8 Pás, Preto/Prata, 140W, 110V - VTX-40P-8P

De: R$ 259,90
Por: R$ 179,90

Vendido por Amazon

PHILIPS, Boombeat, Caixa de Som Bluetooth Boombox, TAX400B/00, USB, Auxiliar, TWS, USB Powerbank, Entrada para Microfone, Resistente a Água e Poeira, com Alça para Transporte

De: R$ 1.799,00
Por: R$ 1.200,00

Vendido por Amazon

Notebook ASUS TUF Gaming A15, RTX 3050, AMD RYZEN 7, 8 GB, 512 GB SSD, KeepOS, Tela 15.6'' FHD, Graphite Black - FA506NCR-HN089

De: R$ 5.299,00
Por: R$ 3.999,00

Vendido por Amazon

Reprodutor remoto PlayStation Portal™ – Midnight Black

De: R$ 1.499,90
Por: R$ 1.319,00

Vendido por Amazon

Notebook ASUS Vivobook 15 X1504VA Intel Core i5 1334U 8GB Ram 512GB SSD Windows 11 Tela 15,6" FHD Silver - NJ1740W

De: R$ 3.599,00
Por: R$ 2.759,00

Vendido por Amazon

Fritadeira Sem Óleo Air Fryer Eos Chef Gourmet 6.2 Litros Compacta Digital Vermelho Eaf60v 110v

De: R$ 299,90
Por: R$ 199,00

Vendido por Amazon

soundcore P20i da Anker Fone de Ouvido Sem Fio, Drivers de 10mm, Graves Potentes, Bluetooth 5.3, 30H de Bateria, Resistência à Água, 2 Microfones IA, App Personalizável

De: R$ 249,00
Por: R$ 166,19

Vendido por Amazon

Philips Walita Preta Fritadeira Airfryer Essential XL Digital, 6.2L de capacidade, Garantia internacional de dois anos, 110V, 2000W (RI9270/90)

De: R$ 899,90
Por: R$ 399,00

Vendido por Amazon

WAP Umidificador de Ar AIR FLOW com Luminária e Difusor de Aromas, 4 Litros, Autonomia de até 12 horas, 20W Bivolt

De: R$ 229,90
Por: R$ 132,00

Vendido por Amazon

Smartphone Motorola Edge 60 5G - 512GB 24GB (12GB RAM+12GB Ram Boost) Tela Quad-Curve moto AI 50MP Sony Camera ultrarresistencia militar IP68 + IP69 - Azul Marinho

De: R$ 2.789,00
Por: R$ 1.999,00

Vendido por Amazon

CAMERA INSTAX MINI 12 ROSA GLOSS

De: R$ 649,00
Por: R$ 392,00

De acordo com a WIRED, metáforas, rimas e versos bem construídos contornam filtros de segurança, fazendo com que os modelos respondam mesmo a temas sensíveis, como armas nucleares.

Por que poemas enganam a IA

Um estudo do Icaro Lab, formado por pesquisadores da Universidade Sapienza de Roma (Itália) e do think tank DexAI, revelou algo preocupante: frases em forma de poema conseguem burlar filtros de grandes modelos de linguagem. A abordagem de poesia adversária alcançou taxas de sucesso de até 62% para versos escritos à mão e aproximadamente 43% para versões automatizadas.

Leia mais:

• Algoritmos influenciam sua visão política. Esses pesquisadores pensaram em uma solução
• Quão confiável é a IA? Novo estudo propõe resposta em seis etapas
• A confusão por trás do termo “alucinação” em inteligência artificial

Eles testaram a técnica em 25 chatbots, incluindo IAs de empresas, como OpenAI, Meta e Anthropic, e a maioria cedeu ao “disfarce poético”. A equipe ressalta que, ao usar metáforas, estruturas fragmentadas e versos indiretos, conseguiu fazer com que os alarmes internos das IAs não disparassem da mesma forma que com perguntas diretas.

Como a poesia desbloqueia o perigo

A estratégia funciona porque explora o que os técnicos chamam de “temperatura alta”, apostando em palavras inesperadas e estruturas incomuns. “Na poesia, vemos a linguagem em alta temperatura, onde as palavras se sucedem em sequências imprevisíveis e de baixa probabilidade”, comentam os pesquisadores.

Eles explicam que esse estilo confunde os classificadores — sistemas que filtram pedidos perigosos. Com a abordagem poética, muitos desses filtros não acompanham o raciocínio do modelo, permitindo que solicitações potencialmente prejudiciais sejam atendidas.

Como evitar esse problema?

• Redobre a cautela ao usar IAs para fins profissionais ou sensíveis.
• Prefira chatbots com múltiplos mecanismos de segurança — não apenas filtros básicos.
• Avalie e monitore o código-fonte ou as políticas de segurança ao usar IAs desenvolvidas por terceiros.

Segundo o estudo, “há um desalinhamento entre a capacidade interpretativa do modelo… e a robustez de suas salvaguardas” — e isso pode ter consequências muito reais.