ChatGPT pode ajudar criação de armas biológicas? OpenAI responde

Equipe da OpenAI conduziu uma pesquisa para avaliar riscos e possíveis usos indevidos do ChatGPT, principalmente o GPT-4 (mais avançado)
Pedro Spadoni02/02/2024 12h27
Detalhe da página do ChatGPT
(Imagem: Pedro Spadoni/Olhar Digital)
Compartilhe esta matéria
Ícone Whatsapp Ícone Whatsapp Ícone X (Tweeter) Ícone Facebook Ícone Linkedin Ícone Telegram Ícone Email

Siga o Olhar Digital no Google Discover

Quem pesquisou sobre armas biológicas no ChatGPT pago – cujo “motor” é o GPT-4 – teve “pequena vantagem” em relação a quem pesquisou sobre o assunto em mecanismos de busca da internet. Essa é a conclusão de um estudo conduzido pela OpenAI.

Ofertas

Smart Tv Aoc Dled 32 Wi-fi Roku Tv Quad Core 32s5155/78g
Vendido por Amazon
Smart Tv Aoc Dled 32 Wi-fi Roku Tv Quad Core 32s5155/78g
De: R$ 838,00
Por: R$ 795,00
Celular Samsung Galaxy S25 FE 5G, 128GB, 8GB, Câmera Tripla - Jet Black
Vendido por Amazon
Celular Samsung Galaxy S25 FE 5G, 128GB, 8GB, Câmera Tripla - Jet Black
Por R$ 2.998,89
Alien Survival Shooter 3D: Jogo de Tiro ao Impostor Offline e Caça ao Inimigo Oculto, Jogo de Memes
Vendido por Amazon
Alien Survival Shooter 3D: Jogo de Tiro ao Impostor Offline e Caça ao Inimigo Oculto, Jogo de Memes
Por R$ 65,59
Perseguição Policial em 3D: Jogo de Perseguição Policial Americana 25, Condução de Carros, Jogo de Corrida de Alta Velocidade
Vendido por Amazon
Perseguição Policial em 3D: Jogo de Perseguição Policial Americana 25, Condução de Carros, Jogo de Corrida de Alta Velocidade
Por R$ 64,49
Rope Hero Game : Flying Spider Fighter Action Games 25
Vendido por Amazon
Rope Hero Game : Flying Spider Fighter Action Games 25
Por R$ 65,29
32 in1 Case Estojo Para Nintendo Switch 2 Acessórios Capa Protetora Para Com Compartimentos Bolsa Perfeita Para Viagens Estojo Bag de Proteção e Acessórios Para
Vendido por Amazon
32 in1 Case Estojo Para Nintendo Switch 2 Acessórios Capa Protetora Para Com Compartimentos Bolsa Perfeita Para Viagens Estojo Bag de Proteção e Acessórios Para
De: R$ 119,99
Por: R$ 94,99
Baseus: 2 Cabos USB-C/USB-C, 100W, Carregamento Rápido, Transferência de Dados Super Rápida, Compatível com iPhone 15 (2, centímetros)
Vendido por Amazon
Baseus: 2 Cabos USB-C/USB-C, 100W, Carregamento Rápido, Transferência de Dados Super Rápida, Compatível com iPhone 15 (2, centímetros)
Por R$ 119,20
Brother HL-L1232W Impressora Laser Monocromática, Wi-Fi, USB 2.0, 220V, Preta
Vendido por Amazon
Brother HL-L1232W Impressora Laser Monocromática, Wi-Fi, USB 2.0, 220V, Preta
De: R$ 1.299,00
Por: R$ 1.109,00
JBL, Fone de Ouvido Bluetooth, Tune Buds 2, Intra Auricular, Sem Fio, Com Cancelamento de Ruído, Bateria de até 48h, Som JBL Pure Bass - Branco
Vendido por Amazon
JBL, Fone de Ouvido Bluetooth, Tune Buds 2, Intra Auricular, Sem Fio, Com Cancelamento de Ruído, Bateria de até 48h, Som JBL Pure Bass - Branco
De: R$ 599,00
Por: R$ 489,00
Anker 332 Hub USB-C [5 em 1, HDMI 4K, 2 Portas USB-A 5 Gbps], Compatível com MacBook Pro, MacBook Air, Dell XPS, Lenovo ThinkPad, HP e Mais
Vendido por Amazon
Anker 332 Hub USB-C [5 em 1, HDMI 4K, 2 Portas USB-A 5 Gbps], Compatível com MacBook Pro, MacBook Air, Dell XPS, Lenovo ThinkPad, HP e Mais
De: R$ 229,00
Por: R$ 169,00
Caixa de Som Bluetooth, INAVA, Caixa de Som Portatil Com Graves Aprimorados e Som Surround 360°.
Vendido por Amazon
Caixa de Som Bluetooth, INAVA, Caixa de Som Portatil Com Graves Aprimorados e Som Surround 360°.
De: R$ 78,00
Por: R$ 74,10
Caixa de Som Bluetooth, INAVA, Caixa de Som Portatil Com Graves Aprimorados e Som Surround 360°.
Vendido por Amazon
Caixa de Som Bluetooth, INAVA, Caixa de Som Portatil Com Graves Aprimorados e Som Surround 360°.
De: R$ 78,00
Por: R$ 74,10
Caixa de Som Bluetooth, INAVA, Caixa de Som Portatil Com Graves Aprimorados e Som Surround 360°.
Vendido por Amazon
Caixa de Som Bluetooth, INAVA, Caixa de Som Portatil Com Graves Aprimorados e Som Surround 360°.
Por R$ 78,00
Wacom One Display Interativo 13 Polegadas Touch, Tela IPS Full HD, DTH134, Preto, para Educação, Escritório e Criação
Vendido por Amazon
Wacom One Display Interativo 13 Polegadas Touch, Tela IPS Full HD, DTH134, Preto, para Educação, Escritório e Criação
De: R$ 3.559,90
Por: R$ 1.435,96
KOSPET Tank T3 Ultra Smartwatch, 50M à prova de água, GPS, bússola, pressão do ar, altitude, aço inoxidável completo, chamada Bluetooth, ecrã AMOLED sempre activo de 1,43'', voz AI Banda de Metal
Vendido por Amazon
KOSPET Tank T3 Ultra Smartwatch, 50M à prova de água, GPS, bússola, pressão do ar, altitude, aço inoxidável completo, chamada Bluetooth, ecrã AMOLED sempre activo de 1,43'', voz AI Banda de Metal
De: R$ 899,99
Por: R$ 764,99
WAAW by ALOK Caixa de Som INFINITE 700 Bluetooth, Tipo Torre, Até 20h de Autonomia, 3 Alto-Falantes, TWS, 700W RMS
Vendido por Amazon
WAAW by ALOK Caixa de Som INFINITE 700 Bluetooth, Tipo Torre, Até 20h de Autonomia, 3 Alto-Falantes, TWS, 700W RMS
De: R$ 3.799,90
Por: R$ 3.369,83
Apple Watch SE 3 GPS, Caixa em alumínio luz das estrelas de 44 mm com Bracelete desportiva luz das estrelas - M/G
Vendido por Amazon
Apple Watch SE 3 GPS, Caixa em alumínio luz das estrelas de 44 mm com Bracelete desportiva luz das estrelas - M/G
De: R$ 3.699,00
Por: R$ 2.998,99
Apple Watch Series 11 GPS, Caixa em alumínio rosa‑dourado de 42 mm com Bracelete desportiva rosa leve - M/G
Vendido por Amazon
Apple Watch Series 11 GPS, Caixa em alumínio rosa‑dourado de 42 mm com Bracelete desportiva rosa leve - M/G
De: R$ 5.499,00
Por: R$ 4.599,00
eufy SoloCam S220 por anker, Câmera De Segurança Wi-Fi Externa, Solar Sem Fio Externa, 2K, Energia Contínua, Monitoramento inteligente de IA, Trabalha Com Alexa/HomeBase 3, Sem Taxa Mensal
Vendido por Amazon
eufy SoloCam S220 por anker, Câmera De Segurança Wi-Fi Externa, Solar Sem Fio Externa, 2K, Energia Contínua, Monitoramento inteligente de IA, Trabalha Com Alexa/HomeBase 3, Sem Taxa Mensal
De: R$ 549,00
Por: R$ 521,00
Anker Laptop Power Bank, 25.000mAh Carregador Portátil para Notebook, 3-Portas 100W USB-C, Cabos Retráteis Integrados, Aprovado para Viagens Aéreas, Compatível com iPhone 17, Samsung e Mais
Vendido por Amazon
Anker Laptop Power Bank, 25.000mAh Carregador Portátil para Notebook, 3-Portas 100W USB-C, Cabos Retráteis Integrados, Aprovado para Viagens Aéreas, Compatível com iPhone 17, Samsung e Mais
De: R$ 1.199,00
Por: R$ 999,00
Anker Laptop Power Bank, 25.000mAh Carregador Portátil para Notebook, 3-Portas 100W USB-C, Cabos Retráteis Integrados, Aprovado para Viagens Aéreas, Compatível com iPhone 17, Samsung e Mais
Vendido por Amazon
Anker Laptop Power Bank, 25.000mAh Carregador Portátil para Notebook, 3-Portas 100W USB-C, Cabos Retráteis Integrados, Aprovado para Viagens Aéreas, Compatível com iPhone 17, Samsung e Mais
De: R$ 1.199,00
Por: R$ 999,00
Mouse sem fio Logitech Pebble 2 M350s com Clique Silencioso, Design Slim Ambidestro, Conexão Bluetooth e Pilha Inclusa - Rosa
Vendido por Amazon
Mouse sem fio Logitech Pebble 2 M350s com Clique Silencioso, Design Slim Ambidestro, Conexão Bluetooth e Pilha Inclusa - Rosa
De: R$ 123,90
Por: R$ 79,90
soundcore Select 4 Go da Anker, Alto-Falante Bluetooth Portátil, 20H de Bateria, IP67 à Prova d'Água e Poeira, Flutuante, Som Potente, Ideal para Ambientes Internos, Externos e Passeios
Vendido por Amazon
soundcore Select 4 Go da Anker, Alto-Falante Bluetooth Portátil, 20H de Bateria, IP67 à Prova d'Água e Poeira, Flutuante, Som Potente, Ideal para Ambientes Internos, Externos e Passeios
De: R$ 339,00
Por: R$ 199,00
Anker MagGo Power Bank, Bateria Magnética Ultra Fina de 10.000mAh, Certificação Qi2, Portátil, Carregador MagSafe Compatível de 15W Ultra Rápido, Compatível com iPhone 17/16/15, Samsung,Xiaomi e Mais
Vendido por Amazon
Anker MagGo Power Bank, Bateria Magnética Ultra Fina de 10.000mAh, Certificação Qi2, Portátil, Carregador MagSafe Compatível de 15W Ultra Rápido, Compatível com iPhone 17/16/15, Samsung,Xiaomi e Mais
De: R$ 499,00
Por: R$ 469,00
Apple 2025 iPad (Wi-Fi + Cellular, 128 GB) - Azul (A16)
Vendido por Amazon
Apple 2025 iPad (Wi-Fi + Cellular, 128 GB) - Azul (A16)
De: R$ 6.499,00
Por: R$ 5.219,10

Para quem tem pressa:

  • Um estudo da OpenAI concluiu que usuários do ChatGPT têm “pequena vantagem” sobre quem pesquisou sobre armas biológicas usando mecanismos de busca convencionais;
  • O estudo foi conduzido pela equipe da OpenAI com intuito de avaliar os riscos e usos indevidos potenciais de seus modelos de inteligência artificial (IA), em resposta às preocupações de cientistas e legisladores;
  • O estudo envolveu 100 participantes – entre eles, especialistas e estudantes de biologia – divididos em dois grupos para comparar a eficácia do GPT-4 e da internet em tarefas relacionadas à fabricação de armas biológicas;
  • Apesar da vantagem modesta em precisão, usuários do GPT-4 produziram respostas mais detalhadas, e estudantes que acessaram o modelo quase equipararam a proficiência dos especialistas em certas tarefas.

A pesquisa foi realizada pela equipe da OpenAI, anunciada em outubro de 2023, com objetivo de avaliar os riscos e possíveis usos indevidos dos modelos de inteligência artificial (IA) da empresa.

Leia mais:

ChatGPT e armas biológicas

Imagem para ilustrar tutorial sobre o ChatGPT
(Imagem: Jonathan Kemper/Unsplash)

O estudo envolveu 100 participantes divididos em dois grupos: especialistas em biologia e estudantes com formação em biologia de nível universitário. Um grupo teve acesso ao GPT-4, enquanto o outro utilizou apenas a internet convencional para realizar cinco tarefas relacionadas à fabricação de armas biológicas.

Os resultados mostraram que o grupo que usou GPT-4 teve uma pontuação média de precisão ligeiramente superior nas tarefas. Por um lado, a pesquisa descreve a diferença como estatisticamente significa. Por outro, suas conclusões desafiam a ideia de que a inteligência artificial oferece uma grande vantagem nesse contexto.

No entanto, participantes que utilizaram GPT-4 produziram respostas mais detalhadas. E os estudantes que tiveram acesso ao modelo quase alcançaram o nível de proficiência dos especialistas em algumas tarefas, o que levanta questões sobre o potencial educativo da ferramenta.

A equipe da OpenAI responsável pelo estudo também explora o potencial de ameaças cibernéticas e a influência da IA na mudança de crenças. A ideia é entender e mitigar os riscos associados à tecnologia.

Pontos e contrapontos

Detalhe da página do ChatGPT
(Imagem: Pedro Spadoni/Olhar Digital)

Apesar dos resultados do estudo minimizarem a vantagem fornecida pelo GPT-4 em comparação à internet convencional, críticos argumentam que a pesquisa interna da OpenAI subestima o impacto real do modelo de IA, treinado numa vasta quantidade de dados científicos e outras informações.

O estudo reconheceu que o ChatGPT forneceu uma vantagem “estatisticamente significativa” em termos de precisão total quando não ajustado por múltiplas comparações. Isso contradiz a interpretação inicial de que a IA oferece apenas um leve aumento na precisão e completude das respostas.

A pesquisa da OpenAI levanta o debate sobre o verdadeiro potencial das ferramentas de IA como ChatGPT, especialmente em campos sensíveis como a pesquisa de armas biológicas. Também destaca a importância de considerar as implicações éticas e de segurança ao desenvolver e aplicar essas tecnologias avançadas.

Pedro Spadoni
Redator(a)

Pedro Spadoni é jornalista formado pela Universidade Metodista de Piracicaba (Unimep). Já escreveu para sites, revistas e até um jornal. No Olhar Digital, escreve sobre (quase) tudo.