IA pode identificar fake news? Estudo responde

Os chamados modelos de linguagem grande (LLMs) são ferramentas utilizadas pela inteligência artificial para ler, resumir e traduzir textos. Essa tecnologia se tornou bastante popular após o lançamento de chatbots como o Chat GPT, da OpenAI. Agora, pesquisadores analisaram se estes modelos podem ajudar na identificação de fake news.

Leia mais

• Inteligência artificial já está produzindo fake news
• Como uma frase usada pelo ChatGPT está gerando spam e fake news
• Caso de fake news com ChatGPT termina em prisão na China

Quatros IA’s foram utilizadas

• Um estudo liderado por Kevin Matthe Caramancion, pesquisador da Universidade de Wisconsin-Stout, nos Estados Unidos, avaliou a capacidade dos LLMs de detectar se uma notícia é verdadeira ou falsa.
• “Meu objetivo era testar rigorosamente a proficiência desses modelos em discernir fatos de fabricação, usando uma simulação controlada e agências de checagem de fatos estabelecidas como referência”, disse Caramancion.
• Na pesquisa, foram utilizadas duas versões do ChatGPT (a 3.0 e 4.0), o Bard, do Google, e o Bing, da Microsoft.
• Essas IA’s foram utilizadas para classificar 100 notícias verificadas por agências de checagem em três categorias: verdadeiro, falso ou parcialmente verdadeiro/falso.

Qual a conclusão?

• O melhor resultado foi do ChatGPT 4.0, com 71% de eficácia.
• A média de todos os modelos foi de 62,25%.
• “No entanto, todos os modelos ficaram atrás dos verificadores de fatos humanos, enfatizando o valor insubstituível da cognição humana. Essas descobertas podem levar a um foco maior no desenvolvimento de capacidades de IA no campo da verificação de fatos, garantindo uma integração equilibrada e simbiótica com as habilidades humanas”, destacou o pesquisador.

IA e fake news

• Diversos estudos estão utilizando a inteligência artificial para compreender se a tecnologia pode fornecer uma ajuda essencial no combate à desinformação na internet.
• Caso o resultado destes testes seja positivo, a própria imagem da IA pode melhorar.
• Isso porque alguns críticos apontam justamente a questão das fake news como um problema acentuado pela ferramenta (veja mais aqui).
• Recentemente, o Google começou a testar uma tecnologia para identificar notícias falsas.
• A nova função, chamada de Fact Check Explorer, busca imagens em um banco de dados para descobrir se elas foram usadas no contexto correto (saiba mais aqui).

Com informações de Tech Xplore.

Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!