Tenha muito cuidado ao fazer perguntas para a inteligência artificial se o tema for eleições. Esse é o resultado de pesquisas realizadas por duas organizações sem fins lucrativos europeias. Elas descobriram que os chatbots dão respostas imprecisas em uma em cada três perguntas básicas sobre candidatos, pesquisas, escândalos e pleitos eleitorais.
Leia mais
- EUA 2024: eleitores temem IA e deepfakes; leis podem não ser suficientes
- EUA: qual é a opinião dos eleitores sobre o uso de IA em 2024?
- Eleições na Argentina: IA vira arma de campanha
Desinformação eleitoral
- Os pesquisadores usaram o Microsoft Copilot durante o trabalho e descobriram que os problemas não se limitaram à Europa.
- Segundo eles, a tecnologia também forneceu respostas imprecisas sobre as eleições nos EUA em 2024.
- Apesar dos resultados, as organizações sem fins lucrativos AI Forensics e AlgorithmWatch afirmam que as respostas não influenciaram o resultado das eleições.
- No entanto, elas reforçaram as preocupações de que o avanço cada vez maior da IA possa contribuir para a confusão e desinformação em torno de eleições futuras.
- As informações são do The Washington Post.
Cerca de 30% das respostas da IA foram imprecisas
Os pesquisadores se concentraram no Copilot porque ele foi um dos primeiros a incluir fontes e porque a Microsoft o incorporou em serviços amplamente disponíveis na Europa, incluindo pesquisa do Bing, Microsoft Word e até mesmo seu sistema operacional Windows. Mas isso não significa que os problemas encontrados se limitem ao chatbot.
Testes preliminares dos mesmos prompts no ChatGPT-4, da OpenAI, por exemplo, revelaram imprecisões semelhantes. O Bard, do Google, não foi testado porque ainda não estava disponível na Europa durante o estudo.
De acordo com as pesquisas, os erros do Copilot eram mais comuns quando as perguntas eram feitas em idiomas diferentes do inglês. Isso levanta preocupações de que as ferramentas de IA construídas por empresas sediadas nos EUA possam ter um desempenho pior no exterior.
As perguntas feitas em alemão provocaram pelo menos um erro factual na resposta em 37% das vezes, enquanto a taxa de erro para as mesmas perguntas em inglês foi de 20%. As perguntas sobre as eleições suíças feitas em francês tiveram uma taxa de erro de 24%.
As proteções incorporadas para evitar que o chatbot dê respostas ofensivas ou inadequadas também pareciam ser aplicadas de forma desigual em todos os idiomas. A tecnologia recusou-se a responder ou deu uma resposta evasiva a 59% das perguntas em francês, em comparação com 39% em inglês e 35% em alemão.
As imprecisões incluíam dar a data errada para as eleições, relatar números de pesquisas desatualizados ou equivocados, listar candidatos que haviam se retirado da corrida eleitoral e inventar controvérsias sobre candidatos em alguns casos.
As organizações sem fins lucrativos apresentaram à Microsoft os resultados do estudo. Depois disso, algumas falhas foram corrigidas, mas os pesquisadores observam que o chatbot ainda apresenta respostas com informações imprecisas para muitas perguntas.
A Microsoft prometeu sanar a questão antes das eleições de 2024 nos Estados Unidos. Em uma pesquisa de novembro, 15% dos norte-americanos disseram que provavelmente usarão IA para obter informações sobre a próxima eleição presidencial.
Tags: