A crescente expectativa para a possível prisão do ex-presidente dos EUA, Donald Trump, vem movimentando a internet de várias maneiras. Em conluio com as poderosas capacidades da IA, muitos internautas vêm visualizando como seria essa cena.

Um desses é Eliot Higgins, fundador do canal investigativo de código aberto Bellingcat. Ele estava lendo sobre a acusação de Donald Trump quando decidiu que queria visualizá-la.

Leia mais:

Ele recorreu a um gerador de arte alimentada por IA, dando instruções simples à tecnologia, como “Donald Trump caindo ao ser preso”. Ele compartilhou os resultados no Twitter.

publicidade

“Eu estava apenas brincando”, disse Higgins em entrevista. “Achei que talvez cinco pessoas fossem retuitar.”

Dois dias depois, suas postagens descrevendo um evento que nunca aconteceu (ao menos até agora) foram vistas quase cinco milhões de vezes, criando estudo de caso sobre a crescente sofisticação das imagens geradas por IA, a facilidade com que podem ser implantadas e seu potencial para criar confusão em ambientes voláteis de notícias – gerando as famigeradas fake news.

O episódio também evidencia a ausência de normas corporativas ou regulamentações governamentais que tratem do uso da IA para criar e espalhar algo irreal.

Os formuladores de políticas vêm alertando há anos sobre o potencial uso indevido de mídia sintética para espalhar desinformação e, de maneira mais geral, semear confusão e discórdia. Embora tenha demorado alguns anos para que os recursos fossem atualizados, agora estamos em um ponto em que essas ferramentas estão amplamente disponíveis e são incrivelmente capazes.

Senador democrata Mark R. Warner, Presidente do Comitê de Inteligência do Senado

Warner disse que os desenvolvedores “devem estar avisados: se seu produto permite diretamente danos que são razoavelmente previsíveis, você pode ser considerado potencialmente responsável”.

Contudo, o político disse ainda que os formuladores de políticas também têm trabalho a fazer, pedindo novas obrigações para garantir que as empresas estejam lidando com os perigos da inteligência artificial.

As principais plataformas online onde essas imagens são divulgadas têm políticas inconsistentes sobre o assunto. O Twitter não respondeu com comentários a investigação do Washington Post sobre as publicações.

Uma porta-voz da Meta apontou exemplos de imagens – que rapidamente saltaram do Twitter para outras plataformas – sendo verificadas em seus serviços, inclusive no Instagram. O YouTube e o TikTok não responderam imediatamente aos pedidos de comentários da reportagem.

“Falta de Contexto. Verificadores de fatos independentes dizem que as informações deste post podem enganar as pessoas”, diz o texto em vermelho abaixo de uma das imagens em um post compartilhado por uma conta com mais de três mil seguidores.

No Facebook, porém, uma das imagens ficou intocada ao ser compartilhada por um usuário com três vezes mais seguidores. “Em reviravolta sem precedentes, o ex-presidente Donald Trump foi preso e escoltado para a prisão federal”, escreveu o usuário, que se descreve como blogueiro e ex-soldado de infantaria dos EUA. “A imagem chocante de Trump, com policiais segurando suas duas mãos, circulou rapidamente nas redes sociais.”

Houve penalidade para Higgins, mas foi cobrada pelo Midjourney, o gerador de arte que ele usou para criar os visuais. Higgins disse que foi bloqueado no servidor da Midjourney na quarta-feira (22), mas não recebeu nenhuma comunicação da empresa sobre quais regras ele violou.

A Midjourney, que se descreve como “laboratório de pesquisa independente que explora novos meios de pensamento e expande os poderes imaginativos da espécie humana”, não respondeu a pedido de comentário do TWP.

“Pensei: ‘Opa, parece que houve consequência para minhas ações'”, disse Higgins.

Trump escreveu no fim de semana no Truth Social, seu site de rede social, que esperava ser preso na terça-feira (21), estimulando seus apoiadores a obter imagens de sua apreensão.

“É a primeira garantia visual de Trump sendo preso, mesmo que não seja”, disse Angelo Carusone, presidente do Media Matters for America, grupo de vigilância de esquerda. “Essa será a imagem que muitas pessoas têm em mente, mesmo que Trump não acabe sendo indiciado – muito menos preso”.

Quando Higgins começou a circular as imagens de Trump, ele deixou claro que eram falsas. Mas a quantidade de imagens que ele conseguiu espalhar pela internet mostra que “houve grande passo à frente na capacidade de criar imagens falsas, mas verossímeis, em grande volume”, disse Sam Gregory, diretor-executivo da organização de direitos humanos Witness. “É fácil ver como isso pode ser feito de forma coordenada com a intenção de enganar.”

Os defeitos da tecnologia que levantam dúvidas sobre a autenticidade das imagens – mãos com seis dedos ou pele metálica – não diminuem seu potencial disruptivo, disse Gregory, cujo grupo reuniu especialistas no outono passado de toda a indústria de tecnologia, direito, arte e entretenimento para identificar maneiras de “apoiar o poder nascente da mídia sintética para defesa, paródia e sátira, ao mesmo tempo em que confronta as áreas cinzentas de engano, iluminação a gás e desinformação”. Entre as ações potenciais que eles identificaram estavam a divulgação e a rotulagem de como a mídia é feita.

“O objetivo”, disse Gregory, “pode não ser convencer as pessoas de que um determinado evento aconteceu, mas convencê-las de que não podem confiar em nada e minar a confiança em todas as imagens”.

A tecnologia está avançando rapidamente. Higgins disse que usou a versão 5 do Midjourney para criar as imagens de Trump. A versão mais recente, pela qual ele paga US$ 30 por mês, é muito mais sofisticada do que sua precursora imediata, disse ele, melhorando bastante um conjunto de visuais que criou de presidentes dos Estados Unidos personificados como papas. “A ferramenta parece estar aprendendo mais sobre a coerência da imagem”, afirmou.

A tecnologia parece construir iterativamente em seu conhecimento de certos recursos visuais, opinou Higgins. “Tenho certeza de que é sobre o número de pessoas treinadas com determinado nome. Para as celebridades, quanto menos famosas forem internacionalmente, menos precisas serão as criações.”

Assim que suas imagens da prisão fictícia de Trump começaram a decolar, ele decidiu completar o arco da história – adicionando imagens de um julgamento e fuga final da prisão. Certas dicas atrapalharam a tecnologia. “Fiz uma de Donald Trump esculpindo uma chave em sabão, mas gerou um Donald Trump laranja em sabão, o que é interessante, mas não era o que eu queria”, contou.

Temas complexos também apresentam problemas para a tecnologia, disse. Dados os temores de que tais ferramentas possam ser usadas por teóricos da conspiração, Higgins procurou simular seus esforços, mas suas tentativas falharam em sua maioria.

Suas instruções para criar imagem de dois fantasmas da direita política rindo juntos – Anthony S. Fauci, ex-médico de doenças infecciosas mais importante dos EUA, e George Soros, financista liberal – levaram a imagem dos dois homens fundidos, Higgins relatou.

Disseminação de conteúdo falso criado artificialmente

No mês passado, um vídeo falso se espalhou no Twitter mostrando a senadora Elizabeth Warren alegando que os republicanos não deveriam ter permissão para votar. O Twitter o rotulou como “áudio alterado” e uma das principais contas que circulavam o material falsificado foi posteriormente suspensa.

Quando o ativista de extrema-direita, Jack Posobiec, tuitou vídeo que parecia mostrar o presidente Biden anunciando alistamento militar para responder à ofensiva da Rússia na Ucrânia, ele o descreveu como “prévia do que está por vir”. O Twitter aplicou um rótulo ao tweet afirmando: “O vídeo mostrado é um ‘deepfake’ criado com a ajuda de inteligência artificial (IA)”.

Posobiec, em aparição este mês na Conferência de Ação Política Conservadora, defendeu a tática. “Nesta semana, fiz um deepfake de Joe Biden que chamou um pouco de atenção”, disse.

O movimento encontrou resistência não apenas dos verificadores de fatos, afirmou, mas também de alguns da direita que lhe perguntaram: “Como você pode fazer isso? Por que você faria algo assim?”. “Dane-se todos eles”, disse ele sobre os verificadores de fatos e os principais meios de comunicação.

As principais empresas de tecnologia reforçaram suas políticas contra deepfakes após a rápida disseminação nas mídias sociais de vídeo distorcido da presidente da Câmara, Nancy Pelosi, em 2019.

No ano seguinte, a Meta proibiu os usuários de postar vídeos altamente manipulados, mas deixou a porta aberta para vídeos alterados que fossem paródias ou sátiras.

O Twitter também introduziu nova regra que proíbe usuários de compartilhar mídia enganosa e manipulada que possa causar danos, como tweets que possam levar à violência, agitação civil generalizada ou ameaçar a privacidade de alguém.

“Desde então, a tecnologia ficou mais sofisticada, mas muito mais difícil de detectar”, disse Carusone. “E nenhum deles fez investimentos significativos em como eles não apenas detectariam esses problemas, mas também aplicariam suas políticas contra eles.” E acrescentou: “O que vejo aqui é uma espécie de salva de abertura em nova frente na guerra contra a desinformação.”

Jessica González, co-CEO do grupo de defesa da mídia Free Press, disse que os gigantes da tecnologia estão menos equipados para combater deepfakes após demissões generalizadas no setor. Como se sabe, várias empresas de TI, como Meta, Google e Twitter, demitiram coletivamente dezenas de milhares de trabalhadores nos últimos meses.

Desde que assumiu o Twitter em outubro, Elon Musk suavizou as políticas da plataforma contra o discurso de ódio, restabeleceu influenciadores extremistas (Donald Trump também retornou à plataforma) e reduziu as práticas de moderação de conteúdo da empresa por meio de cortes drásticos em sua força de trabalho.

“Não sei se o Twitter tem pessoal ou o desejo sincero de garantir que o conteúdo compartilhado em seu site seja preciso”, disse González. “Existem outros deepfakes melhores que representam risco ainda maior, especialmente à medida que avançamos para a temporada eleitoral. É importante que as pessoas tenham informações precisas sobre quem está concorrendo ao cargo.”

Com informações de The Washington Post

Imagem destacada: Solarisys/Shutterstock

Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!