ChatGPT é impreciso ao responder sobre programação de computadores

Um estudo alertou para a quantidade alta de vezes que o chatbot respondeu errado questões sobre programação
Leandro Costa Criscuolo28/05/2024 06h05, atualizada em 04/06/2024 21h05
Compartilhe esta matéria
Ícone Whatsapp Ícone Whatsapp Ícone X (Tweeter) Ícone Facebook Ícone Linkedin Ícone Telegram Ícone Email

Siga o Olhar Digital no Google Discover

Uma equipe de cientistas da computação da Purdue University testou a capacidade do ChatGPT de responder perguntas sobre programação de computadores, e descobriu que o chatbot comete imprecisões quando fala sobre esse tema.

Ofertas

Pentel Lapiseira Tecnica Graphgear 1000 0.5mm CP/PG1015-A
Vendido por Amazon
Pentel Lapiseira Tecnica Graphgear 1000 0.5mm CP/PG1015-A
De: R$ 113,17
Por: R$ 60,56
TP-Link BE11000 Tri-Band Whole Home Mesh WiFi 7, até 11 Gbps, MLO, 320 MHz, banda de 6 GHz, roteador wifi7, roaming de IA sem costura, segurança HomeShield, jogos e streaming (Deco BE65 2-pack)
Vendido por Amazon
TP-Link BE11000 Tri-Band Whole Home Mesh WiFi 7, até 11 Gbps, MLO, 320 MHz, banda de 6 GHz, roteador wifi7, roaming de IA sem costura, segurança HomeShield, jogos e streaming (Deco BE65 2-pack)
Por R$ 2.419,90
Tilibra - Agenda Costurada Diária 12,3 x 16,6 cm Charme 2026 - Flores - fundo rosa
Vendido por Amazon
Tilibra - Agenda Costurada Diária 12,3 x 16,6 cm Charme 2026 - Flores - fundo rosa
De: R$ 30,90
Por: R$ 27,81
Con-Tact Cristal Papel Adesivo 45cm x 25m, transparente com espessura 80 Micras. Ideal para Proteção e Revestimento - C180
Vendido por Amazon
Con-Tact Cristal Papel Adesivo 45cm x 25m, transparente com espessura 80 Micras. Ideal para Proteção e Revestimento - C180
De: R$ 109,23
Por: R$ 52,79
Garmin Relógio Venu 3 Preto 45mm com Monitor Cardíaco de Pulso e GPS
Vendido por Amazon
Garmin Relógio Venu 3 Preto 45mm com Monitor Cardíaco de Pulso e GPS
De: R$ 4.699,00
Por: R$ 3.099,00
Mouse Gamer Redragon Bullseye Pro, Wireless 2.4GHz Cabo ou Bluetooth, RGB, 7 Botões, 26000DPI, Preto - M806RGB-PRO
Vendido por Amazon
Mouse Gamer Redragon Bullseye Pro, Wireless 2.4GHz Cabo ou Bluetooth, RGB, 7 Botões, 26000DPI, Preto - M806RGB-PRO
De: R$ 316,25
Por: R$ 225,90
AuroraLink Adaptador Carplay sem fio para Apple iPhone e Android Auto 2 em 1, adaptador sem fio Carplay rápido e estável, converte com fio para dongle de reprodução de carro sem fio para iOS 10+
Vendido por Amazon
AuroraLink Adaptador Carplay sem fio para Apple iPhone e Android Auto 2 em 1, adaptador sem fio Carplay rápido e estável, converte com fio para dongle de reprodução de carro sem fio para iOS 10+
De: R$ 416,17
Por: R$ 241,03
Baba Eletronica, Camera de Segurança Wifi, Tela LCD, Áudio Bidirecional, VOX (Ativação por Voz), Alerta de Temperatura, Lembrete de Alimentação, 8 Canções, Sinal FHSS Criptografado
Vendido por Amazon
Baba Eletronica, Camera de Segurança Wifi, Tela LCD, Áudio Bidirecional, VOX (Ativação por Voz), Alerta de Temperatura, Lembrete de Alimentação, 8 Canções, Sinal FHSS Criptografado
De: R$ 399,99
Por: R$ 237,99
Câmera IP Sem Fio de Segurança Externa HD 3MP, Câmera de Visão Noturna Infravermelha WiFi, tripla Lente Grande Angular, IP68 à Prova D'água e à Prova de Poeira
Vendido por Amazon
Câmera IP Sem Fio de Segurança Externa HD 3MP, Câmera de Visão Noturna Infravermelha WiFi, tripla Lente Grande Angular, IP68 à Prova D'água e à Prova de Poeira
De: R$ 299,00
Por: R$ 216,11
Suporte Celular com Rastreamento Automático de Movimento e Rosto, Rotação de 360° Automática, Segue Seus Movimentos, Tripé Estabilizador Celular Câmera Inteligentecom, Com Controle Remoto, Lives
Vendido por Amazon
Suporte Celular com Rastreamento Automático de Movimento e Rosto, Rotação de 360° Automática, Segue Seus Movimentos, Tripé Estabilizador Celular Câmera Inteligentecom, Com Controle Remoto, Lives
De: R$ 84,90
Por: R$ 79,90
Basike Power Bank 30000mAh, Carregador Portátil com Carregamento Rápido, USB-A (até 22,5W, QC) + USB-C (até 20W, PD) + 2 Cabos Integrados (USB-C e Lightning), LED Numeric Power Display – Preto
Vendido por Amazon
Basike Power Bank 30000mAh, Carregador Portátil com Carregamento Rápido, USB-A (até 22,5W, QC) + USB-C (até 20W, PD) + 2 Cabos Integrados (USB-C e Lightning), LED Numeric Power Display – Preto
De: R$ 198,00
Por: R$ 174,00
CROWNFUL Balança de alimentos, balança digital de cozinha de 5 kg, peso onças e gramas para cozinhar e assar, 6 unidades com função de tara (bateria incluída)
Vendido por Amazon
CROWNFUL Balança de alimentos, balança digital de cozinha de 5 kg, peso onças e gramas para cozinhar e assar, 6 unidades com função de tara (bateria incluída)
De: R$ 59,99
Por: R$ 37,99
Fone De Ouvido Headset Gamer Com Microfone, Falante 40mm, Plug 3.5mm, Compatível com Computador, Celular e Video Games
Vendido por Amazon
Fone De Ouvido Headset Gamer Com Microfone, Falante 40mm, Plug 3.5mm, Compatível com Computador, Celular e Video Games
Por R$ 59,49
Monitor 20 Polegadas, HD v, Taxa de Atualização 75Hz, Alto-falantes Integrados, Tempo de Resposta 5ms, Conexões HDMI/VGA, Preto
Vendido por Amazon
Monitor 20 Polegadas, HD v, Taxa de Atualização 75Hz, Alto-falantes Integrados, Tempo de Resposta 5ms, Conexões HDMI/VGA, Preto
De: R$ 299,00
Por: R$ 284,04
Smartwatch, HUAWEI WATCH GT 5 Pro 46mm, Cerâmica e Titânio, Monitoramento Esportivo Profissional, Mapas de campos de golfe, Até 2 Semanas de Bateria, Compatível com iOS e Android, Preto
Vendido por Amazon
Smartwatch, HUAWEI WATCH GT 5 Pro 46mm, Cerâmica e Titânio, Monitoramento Esportivo Profissional, Mapas de campos de golfe, Até 2 Semanas de Bateria, Compatível com iOS e Android, Preto
De: R$ 1.895,00
Por: R$ 1.439,90
Redragon MOUSE GAMER INVADER CHROMA RGB - M719-RGB
Vendido por Amazon
Redragon MOUSE GAMER INVADER CHROMA RGB - M719-RGB
De: R$ 101,16
Por: R$ 94,90
Rack 1,33 mt para TV até 60" com estrutura usinada MDF 15mm THEO cor Cinamomo/Off White - Artely
Vendido por Amazon
Rack 1,33 mt para TV até 60" com estrutura usinada MDF 15mm THEO cor Cinamomo/Off White - Artely
Por R$ 317,61
ULANZI VL119 BASTÃO DE LUZ PORTÁTIL, Luz LED RGB 360° para Fotografia e Gravação de Vídeo, Bateria 2600mAh Recarregável, Tubo de Luz 2500-9000K Ajustável com LCD
Vendido por Amazon
ULANZI VL119 BASTÃO DE LUZ PORTÁTIL, Luz LED RGB 360° para Fotografia e Gravação de Vídeo, Bateria 2600mAh Recarregável, Tubo de Luz 2500-9000K Ajustável com LCD
Por R$ 154,00
Mochila Executiva Unissex para Notebook até 15.6” - com Entrada USB e Passa-fio para fone – Ideal para Faculdade, Trabalho e Viagens – Antifurto, Reforçada e Confortável - Masculina e Feminina (Preto)
Vendido por Amazon
Mochila Executiva Unissex para Notebook até 15.6” - com Entrada USB e Passa-fio para fone – Ideal para Faculdade, Trabalho e Viagens – Antifurto, Reforçada e Confortável - Masculina e Feminina (Preto)
Por R$ 38,90
Samsung Notebook Galaxy Book4, Windows 11 Home, Intel® Core™ 5, 16GB, 512GB SSD, NVIDIA® GeForce® MX570, 15.6'' Full HD LED, FingerPrint - Grafite
Vendido por Amazon
Samsung Notebook Galaxy Book4, Windows 11 Home, Intel® Core™ 5, 16GB, 512GB SSD, NVIDIA® GeForce® MX570, 15.6'' Full HD LED, FingerPrint - Grafite
Por R$ 5.399,00
Caixa de Som 2.1 14w RMS USB Conexão P2 Controle de Volume Preto - SP172
Vendido por Amazon
Caixa de Som 2.1 14w RMS USB Conexão P2 Controle de Volume Preto - SP172
De: R$ 119,90
Por: R$ 89,90
Cabo de carregamento e cabo de transferência de dados da série Baseus Cafule, USB-A e Lightning 1.5 A, 2 Meter, cinza - preto
Vendido por Amazon
Cabo de carregamento e cabo de transferência de dados da série Baseus Cafule, USB-A e Lightning 1.5 A, 2 Meter, cinza - preto
Por R$ 45,90
Fonte Carregador Para Notebook Acer Aspire 5 A514-54 A515-54 A315-34 19v 3,42A 65W Plug 3.0x1.1mm Pino Fino Bivolt com Cabo de Força
Vendido por Amazon
Fonte Carregador Para Notebook Acer Aspire 5 A514-54 A515-54 A315-34 19v 3,42A 65W Plug 3.0x1.1mm Pino Fino Bivolt com Cabo de Força
Por R$ 78,90
Nobreak Interativo XNB 600VA 220V Preto Intelbras
Vendido por Amazon
Nobreak Interativo XNB 600VA 220V Preto Intelbras
De: R$ 536,90
Por: R$ 313,50
Nobreak Interativo ATTIV 700VA Bivolt Preto Intelbras
Vendido por Amazon
Nobreak Interativo ATTIV 700VA Bivolt Preto Intelbras
De: R$ 560,00
Por: R$ 475,87
Adaptador USB-C para HDMI 4K, USB 3.0 e Carga PD - Compatibilidade com MacBook, Thunderbolt 3 e DEX Android - Eleva Sua Experiência Multimídia Oferece Carga Rápida Vende Mais
Vendido por Amazon
Adaptador USB-C para HDMI 4K, USB 3.0 e Carga PD - Compatibilidade com MacBook, Thunderbolt 3 e DEX Android - Eleva Sua Experiência Multimídia Oferece Carga Rápida Vende Mais
De: R$ 24,90
Por: R$ 23,65
Teclado Magnético Gamer Redragon Kumara PRO K552RGB USB RGB Preto Switch Marrom
Vendido por Amazon
Teclado Magnético Gamer Redragon Kumara PRO K552RGB USB RGB Preto Switch Marrom
De: R$ 330,05
Por: R$ 235,28
Lápis de Cor Ecolápis Triangular Jumbo 12 Cores + 2 Lápis Jumbo 2B, Faber-Castell
Vendido por Amazon
Lápis de Cor Ecolápis Triangular Jumbo 12 Cores + 2 Lápis Jumbo 2B, Faber-Castell
De: R$ 46,00
Por: R$ 36,22
Microsoft Xbox Wireless Controller Storm Breaker Special Edition - Wireless & Bluetooth Connectivity - New Hybrid D-Pad - New Share Button - Featuring Textured Grip
Vendido por Amazon
Microsoft Xbox Wireless Controller Storm Breaker Special Edition - Wireless & Bluetooth Connectivity - New Hybrid D-Pad - New Share Button - Featuring Textured Grip
Por R$ 598,99
Carregador Portátil (Power Bank) 20000Mah Turbo 22.5w Carregamento Ultra Rápido PD Visor Led com 2 Saídas Compatível com Android e IOS (Preto)
Vendido por Amazon
Carregador Portátil (Power Bank) 20000Mah Turbo 22.5w Carregamento Ultra Rápido PD Visor Led com 2 Saídas Compatível com Android e IOS (Preto)
Por R$ 89,49
Kit Roteador Mesh Wi-Fi 6 Gigabit AX3000 - Deco X50(2-pack)(US)
Vendido por Amazon
Kit Roteador Mesh Wi-Fi 6 Gigabit AX3000 - Deco X50(2-pack)(US)
De: R$ 1.156,80
Por: R$ 727,20
GoPro Max 360 - Câmera de Ação à Prova d'água, Vídeo 360 5.6K, Reenquadramento 4K, Foto 360, GPS, Live 1080p, Max HyperSmooth, TimeWarp, Trava de horizonte, Capturas com bastão invisível
Vendido por Amazon
GoPro Max 360 - Câmera de Ação à Prova d'água, Vídeo 360 5.6K, Reenquadramento 4K, Foto 360, GPS, Live 1080p, Max HyperSmooth, TimeWarp, Trava de horizonte, Capturas com bastão invisível
De: R$ 2.699,00
Por: R$ 2.069,90
Garmin Relógio Forerunner 965 Preto 47mm com Monitor Cardíaco de Pulso e GPS
Vendido por Amazon
Garmin Relógio Forerunner 965 Preto 47mm com Monitor Cardíaco de Pulso e GPS
Por R$ 5.999,00
HP, Impressora HP Laser 107a. Tecnologia de impressão Laser Impressora para Pequenas e Médias Empresas. Conectividade: USB 2.0 de alta velocidade (4ZB77A), Branco/Cinza
Vendido por Amazon
HP, Impressora HP Laser 107a. Tecnologia de impressão Laser Impressora para Pequenas e Médias Empresas. Conectividade: USB 2.0 de alta velocidade (4ZB77A), Branco/Cinza
De: R$ 899,00
Por: R$ 799,90

Leia mais:

ChatGPT
ChatGPT teve precisão testada com perguntas sobre programação – Imagem: photosince/Shutterstock

Os especialistas, em seu estudo, extraíram perguntas do site de programação StackOverflow, as apresentaram ao ChatGPT, e então mediram seu grau de precisão ao responder.

A equipe da Purdue se viu motivada a realizar o estudo após observar que muitos estudantes de programação começaram a usar LLMs não apenas para escrever código para tarefas de programação, mas também para responder questões relacionadas à programação.

Para descobrir o quão precisos os LLMs são em responder a essas perguntas, a equipe de pesquisa concentrou seus esforços em apenas um chatbot, talvez o mais popular no momento: o ChatGPT.

Os pesquisadores usaram perguntas disponíveis gratuitamente no site StackOverflow – um site criado para ajudar os programadores a aprender mais sobre programação, trabalhando com outras pessoas em sua área de interesse.

Em uma parte do site, os usuários podem postar perguntas que serão respondidas por outras pessoas que sabem as respostas.

ChatGPT errou metade das perguntas sobre programação

  • A equipe de pesquisa usou 517 perguntas encontradas no site e depois mediu a frequência com que o ChatGPT deu a resposta correta.
  • O chatbot foi impreciso mais do que deveria ser normal: apenas 52% das vezes a resposta fornecida foi correta.
  • Eles também descobriram que as respostas tendiam a ser mais detalhadas do que seriam quando a mesma pergunta fosse feita a um especialista humano.

Por meio de estudantes que participaram do estudo, a equipe descobriu ainda que em 35% das vezes, eles preferem as respostas dadas no ChatGPT do que perguntar a um humano.

Os pesquisadores também descobriram que os mesmos usuários que liam as respostas dadas pelo ChatGPT muitas vezes não percebiam os erros cometidos, ignorando as respostas erradas 39% das vezes.

chatgpt
Erros do ChatGPT em questões sobre programação levantam preocupações – Imagem: Vitor Miranda / Shutterstock.com
Leandro Costa Criscuolo
Colaboração para o Olhar Digital

Leandro Criscuolo é jornalista formado pela Faculdade Cásper Líbero. Já atuou como copywriter, analista de marketing digital e gestor de redes sociais. Atualmente, escreve para o Olhar Digital.