Pesquisadores encontram falhas na segurança do ChatGPT

Siga o Olhar Digital no Google Discover

Tudo sobre ChatGPT

ver mais

Pesquisadores da Universidade Carnegie Mellon e do Centro para a Segurança de IA descobriram uma maneira de contornar as medidas de segurança de chatbots de inteligência artificial, inclusive o mais popular ChatGPT da OpenAI.

Ofertas

Vendido por Amazon

Fone de Ouvido Headphone P47 Sem Fio Bluetooth Wireless Micro Sd 5.0 Dobrável Com Microfone Regulável Para Corrida Academia Escritório Caminhada Linha Premium (Preto)

De: R$ 39,90
Por: R$ 19,90

Vendido por Amazon

Smart TV Multi Roku 32" HD 3 HDMI 2 USB Compatível com Alexa e Google Home - TL052M

De: R$ 1.149,00
Por: R$ 819,00

Vendido por Amazon

Carregador Super Turbo 50W Ultra Rápido Tipo C e USB Com Carregamento Rápido + Cabo Tipo C Compatível Com Todos Os Dispositivos, Android, Ios 15/16, Xiaomi - Todos Dispositivos Celulares

De: R$ 32,90
Por: R$ 22,90

Vendido por Amazon

Placa de Video MSI RTX 5060 Shadow 2X OC, 8GB, GDDR7-912-V537-037

De: R$ 2.920,14
Por: R$ 2.240,00

Vendido por Amazon

Ar-Condicionado Split HW Elgin Eco Inverter II Wi-Fi 12.000 BTUs R-32 Quente/Frio 220V

De: R$ 2.499,00
Por: R$ 1.998,89

Vendido por Amazon

Freezer Vertical Consul 231 Litros - CVU26FB 110V

De: R$ 3.279,35
Por: R$ 2.498,89

Vendido por Amazon

WAP Ventilador de Torre AIR SILENCE com 4 Ní­veis de Velocidade, Time de até 15 Horas e Desligamento Automático 127V

De: R$ 599,90
Por: R$ 404,90

Vendido por Amazon

MONDIAL Ventilador de Mesa 40cm Super Power, Branco/Azul, 140W, 110V - VSP-40-W

De: R$ 189,90
Por: R$ 129,90

Vendido por Amazon

Climatizador de Ar Digital Midea 127V 60Hz

De: R$ 529,99
Por: R$ 412,69

Vendido por Amazon

Monitor Gamer IPS 24 Polegadas, Full HD, 180Hz, 1ms, HDR400, G-SYNC, 250cd/m², Alto-falantes embutidos, Entradas HDMI/DisplayPort/USB/3.5mm

De: R$ 799,00
Por: R$ 593,00

Vendido por Amazon

Câmera Digital EOS, Canon, Preto, 23 x 14 x 17 cm

De: R$ 3.799,00
Por: R$ 3.598,94

Vendido por Amazon

Anker MagGo Power Bank, Bateria Magnética Ultra Fina de 10.000mAh, Certificação Qi2, Portátil, Carregador MagSafe Compatível de 15W Ultra Rápido, Compatível com iPhone 17/16/15, Samsung,Xiaomi e Mais

De: R$ 649,00
Por: R$ 469,00

Vendido por Amazon

Notebook Acer Nitro V15 ANV15-41-R4Q9 R77735HS AMD Ryzen 7 32GB 512GB SSD NVIDIA RTX 4050 15.6” FHD LED IPS 165Hz AGPOS

De: R$ 7.799,00
Por: R$ 5.610,00

Vendido por Amazon

Câmera digital, vídeo de 5k, câmera de 75 megapixels, transmissão Wi-Fi, foco automático, zoom digital de 18x, tela giratória de 180 graus, cartão SD de 32G,câmera compacta,vlog,fotográfica

De: R$ 699,00
Por: R$ 499,00

Vendido por Amazon

PlayStation DualSense Controle sem fio – Branco

De: R$ 499,90
Por: R$ 369,00

Vendido por Amazon

Robô Aspirador Liectroux XR500 Pro 3 em 1 Aspira Varre Passa Pano Com Aplicativo Compatível Com Alexa e Google Mapeamento Inteligente Salva os Mapas Bivolt

De: R$ 2.489,00
Por: R$ 1.616,02

Vendido por Amazon

MONDIAL Ventilador de Parede 40cm Super Turbo 8 Pás, Preto/Prata, 140W, 110V - VTX-40P-8P

De: R$ 259,90
Por: R$ 179,90

Vendido por Amazon

Notebook ASUS Vivobook 15 X1504VA Intel Core i5 1334U 8GB Ram 512GB SSD Windows 11 Tela 15,6" FHD Silver - NJ1740W

De: R$ 3.599,00
Por: R$ 2.759,00

Vendido por Amazon

Fritadeira Sem Óleo Air Fryer Eos Chef Gourmet 6.2 Litros Compacta Digital Vermelho Eaf60v 110v

De: R$ 299,90
Por: R$ 199,00

Vendido por Amazon

soundcore P20i da Anker Fone de Ouvido Sem Fio, Drivers de 10mm, Graves Potentes, Bluetooth 5.3, 30H de Bateria, Resistência à Água, 2 Microfones IA, App Personalizável

De: R$ 249,00
Por: R$ 166,19

Vendido por Amazon

Philips Walita Preta Fritadeira Airfryer Essential XL Digital, 6.2L de capacidade, Garantia internacional de dois anos, 110V, 2000W (RI9270/90)

De: R$ 899,90
Por: R$ 399,00

Vendido por Amazon

WAP Umidificador de Ar AIR FLOW com Luminária e Difusor de Aromas, 4 Litros, Autonomia de até 12 horas, 20W Bivolt

De: R$ 229,90
Por: R$ 132,00

Vendido por Amazon

CAMERA INSTAX MINI 12 ROSA GLOSS

De: R$ 649,00
Por: R$ 505,00

Em um relatório divulgado na quinta-feira, os pesquisadores demonstraram como qualquer pessoa poderia fazer uso de chatbots líderes de mercado, como o ChatGPT e o Google Bard, para gerar quantidades ilimitadas de informações prejudiciais.

Leia mais:

• Como baixar e usar ChatGPT no celular Android
• Como aprender inglês e outros idiomas sozinho com ChatGPT
• 5 motivos para NÃO usar o ChatGPT

O estudo destacou a crescente preocupação de que esses chatbots poderiam inundar a internet com informações falsas e perigosas, apesar dos esforços de seus criadores para evitá-lo. Além disso, revelou como as discordâncias entre as grandes empresas de IA estão criando um ambiente cada vez mais imprevisível para a tecnologia.

• Os pesquisadores descobriram que podiam contornar os sistemas de código aberto.
• Assim, eles obtiveram acesso aos sistemas mais controlados e amplamente utilizados do Google, OpenAI e Anthropic.
• Os métodos desenvolvidos com os sistemas de código aberto também conseguiram romper as barreiras dos sistemas fechados.
• Isso inclui o ChatGPT do OpenAI, o Google Bard e o Claude, um chatbot desenvolvido pela startup Anthropic.

Os especialistas alertam que não existe uma solução óbvia para esse problema e que ataques desse tipo são difíceis de prevenir. A questão sobre se é melhor deixar o código de computador ser de conhecimento público ou mantê-lo privado tem sido objeto de debate há décadas, mas agora essa controvérsia pode se intensificar.

Os pesquisadores descobriram que poderiam burlar os limites desses chatbots adicionando uma extensão longa de caracteres em cada solicitação em inglês. Dessa forma, eles conseguiram fazer com que os chatbots gerassem informações enviesadas, falsas e tóxicas. As empresas por trás dos chatbots podem tentar evitar essas extensões específicas, mas os pesquisadores afirmam que não há maneira conhecida de impedir todos os ataques desse tipo.

O relatório revelou a vulnerabilidade das medidas de controle estabelecidas em torno dos chatbots de IA e levantou preocupações sobre a disseminação de desinformação e a falta de controle adequado desses sistemas. O debate sobre a disponibilidade do código de computador para a correção coletiva antecede o boom dos chatbots e provavelmente se tornará ainda mais acirrado por causa das descobertas dos pesquisadores.

A divulgação desses métodos aos desenvolvedores dos chatbots foi feita pelos pesquisadores antes da publicação do relatório. As empresas informaram que estão pesquisando maneiras de evitar esses ataques e melhorar a robustez de seus sistemas.

A tecnologia de chatbot impulsionada pela inteligência artificial aprende habilidades por meio de algoritmos complexos chamados redes neurais. Esses sistemas aprendem a gerar texto ao analisar grandes quantidades de informações digitais.

No entanto, eles também podem repetir informações tóxicas, combinar fatos com ficção e até mesmo inventar informações, o que os cientistas chamam de ‘alucinações’.

A descoberta dos pesquisadores ressalta a fragilidade das defesas que estão sendo desenvolvidas nos sistemas de chatbot, mostrando a necessidade de repensar como construir barreiras de segurança para evitar a disseminação de informações prejudiciais. Essa vulnerabilidade pode levar a regulamentações governamentais para controlar esses sistemas.

Embora as empresas por trás dos chatbots possam tentar encontrar formas de inibir esses ataques específicos, os pesquisadores alertam que a prevenção de todos os tipos de mau uso será extremamente difícil. O estudo levanta questões importantes sobre a segurança da inteligência artificial e destaca a necessidade de um debate e ação mais abrangentes nessa área.

Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!