Professor que combate fraudes de IA é acusado de… espalhar fake news

Jeff Hancock, professor da Universidade de Stanford e diretor do Social Media Lab, foi acusado de disseminar desinformação gerada por inteligência artificial (IA) enquanto atuava como especialista em um caso judicial sobre a regulação de deepfakes.

A acusação, divulgada pelo Minnesota Reformer, surgiu no contexto da ação Kohls v. Ellison, movida por um YouTuber e representante estadual de Minnesota, que questiona a constitucionalidade de uma nova lei estadual.

A lei proíbe o uso de deepfakes com a intenção de influenciar eleições, algo que o autor do processo, Christopher Kohls, argumenta ser uma violação da liberdade de expressão garantida pela Primeira Emenda.

Professor teria citado estudo que não existe

• Hancock apresentou sua opinião especializada durante o processo, incluindo uma referência a um estudo que supostamente mostrava que, mesmo informadas sobre a existência de deepfakes, as pessoas ainda teriam dificuldade em distinguir entre conteúdo real e manipulado.
• No entanto, os advogados de Kohls alegaram que o estudo mencionado por Hancock, intitulado “A influência de vídeos deepfake em atitudes e comportamentos políticos”, não existe.
• Eles sugeriram que a citação foi provavelmente uma “alucinação” gerada por IA, possivelmente por meio de um modelo de linguagem como o ChatGPT. Essa alegação colocou em dúvida a credibilidade do depoimento de Hancock.

Leia mais:

• Real ou deepfake? Veja como identificar se uma imagem foi gerada por inteligência artificial
• Google proíbe anúncios de apps que geram deepfake
• 5 formas de proteger a sua empresa das deepfakes

O caso envolve uma das 20 leis estaduais nos Estados Unidos que regulam o uso de deepfakes durante campanhas eleitorais.

Essas leis visam evitar que vídeos manipulados sejam utilizados para prejudicar candidatos ou influenciar eleitores, especialmente se o material for produzido sem consentimento da pessoa retratada e visando manipular os resultados da eleição.

O processo tem gerado controvérsia, e Hancock ainda não se manifestou sobre as acusações de que sua citação foi gerada por IA.