Com as eleições cada vez mais próximas, novas deepfakes vão surgindo. O primeiro caso deepfake desse ciclo eleitoral mostrava uma pesquisa Inep com informações falsas. Mesmo alguns casos que são facilmente identificáveis são capazes de enganar muitas pessoas e afetar diretamente nas eleições.

Novos casos envolvendo a deepfake continuam a focar nos telejornais e pesquisas eleitorais. Semelhante ao primeiro caso registrado, o âncora do Jornal Nacional, William Bonner, apresenta uma pesquisa de intenção de voto (também do Inep) em que Bolsonaro (PL) aparece na frente de Lula (PT). Outro caso de destaque mostra Bonner se referindo a Lula e Geraldo Alckmin (PSB) como “bandidos”.

publicidade

Ambos os casos foram desmentidos pelos próprios âncoras durante o programa.

Leia mais:

publicidade

O Comprova, projeto jornalístico que busca identificar e informar sobre conteúdos falsos ou enganosos, produziu em parceria com diversos veículos de jornal, rádio e TV, o relatório “Saiba o que é deepfake, técnica de inteligência artificial que foi apropriada para produzir desinformação”.

No relatório, o jornalista e criador de conteúdos deepfake, Bruno Sartori, explica que apesar dos casos de telejornais estarem associados com o termo deepfake, a classificação correta desses vídeos é como “shallowfake”, uma técnica de manipulação de conteúdo menos sofisticada.

publicidade

Qual a diferença entre deepfake e shallowfake?

O deepfake é uma tecnologia que usa recursos de inteligência artificial (IA) para adulterar vídeos e áudios fazendo-os parecer originais. A técnica é capaz de colocar o rosto de uma pessoa no corpo de outra, ou fazer com que a pessoa gesticule falas que parecem autênticas. 

Nos casos em que William Bonner e Renata Vasconcellos apresentam a pesquisa eleitoral, a inteligência artificial não é usada para fazer modificações físicas no rosto dos apresentadores. O shallowfake utiliza exatamente esse tipo de manipulação ao fazer cortes no vídeo e tirar as informações de contexto.

publicidade

“Quando é deepfake, se usa uma técnica de síntese de mídia digital, você cria uma mídia digital com inteligência artificial, uma mídia sintética. Então, precisa dessa inteligência artificial para fabricar essa mídia sintética. Além disso, não é qualquer pessoa que faz um deepfake. Não basta editar um vídeo e tirá-lo de contexto para ser um deepfake. Isso, na verdade, é um shallowfake, que são vídeos tirados do contexto por material tanto auditivo quanto visual”, explica Sartori.

De acordo com o especialista, esta é a eleição que marca a utilização das deepfakes, sendo que não há registros de casos que envolviam o uso dessa técnica de manipulação. Sartori acredita que nas próximas eleições o uso dessa técnica de deepfake terá sido aperfeiçoada e poderá ser explorada até mesmo em campanhas eleitorais.

Como identificar os deepfakes?

O especialista em ciência de dados e pesquisador de Imagens e Vídeo, Moacir Antonelli Ponti, recomenda prestar atenção nas transições entre o rosto e o restante da cabeça, outra dica é tentar encontrar o padrão robótico na movimentação da pessoa.

“Mas cada vez mais os deepfakes estão melhores. Então, o importante nesse caso é a conscientização das pessoas sobre o conteúdo em si (o que está sendo dito e quem está dizendo) e não a forma (a aparência ou sonoridade)”, disse Ponti.

Sartori explica que essa tecnologia de manipulação de imagens já existe há cerca de cinco anos, porém ela tem se desenvolvido e melhorado os conteúdos produzidos. Essa melhoria tem dificultado a identificação de deepfakes.

“Antes, por exemplo, era característico do deepfake ter todos os dentes unidos, tanto na parte de cima como na parte de baixo (da boca). Hoje, não tem mais isso. Às vezes, o profissional acaba deixando na junção de um rosto com outro duas sobrancelhas (sobrepostas), eu vejo muito isso acontecer. Se pintar duas sobrancelhas em algum momento do vídeo, é claro sinal de deepfake. Pode existir também a incompatibilidade entre o rosto e o fundo do vídeo, de nitidez, cor e sombras”.

Além do conteúdo técnico, outra indicação é ficar atento ao contexto que o vídeo está retratando. Apesar do brasileiro vivenciar cada vez mais acontecimentos absurdos e inimagináveis durante o período eleitoral – tanto por candidatos quanto eleitores –  é preciso ficar atento sobre conteúdos bombásticos ou sensacionalistas. “Geralmente (o deepfake) vai vir contando um absurdo, uma história que normalmente prejudica alguém. Então, se a história contada ali é prejudicial a alguém, já é um indicativo que pode ser conteúdo manipulado”, diz Sartori.

Com informações de Comprova

Já assistiu aos nossos novos vídeos no YouTube? Inscreva-se no nosso canal!