Vozes ‘fake’ geradas por IA inundam o TikTok – e isso é preocupante

Portais que atuam como vigilantes da desinformação notaram um aumento no número de vídeos contendo vozes produzidas (ou emuladas) por inteligência artificial (IA), conforme publicado pelo jornal The New York Times. E as redes sociais – principalmente o TikTok – correm para sinalizar e rotular esse tipo de conteúdo.

Para quem tem pressa:

• Portais de verificação de desinformação notaram um aumento de vídeos com vozes produzidas por inteligência artificial (IA) nas redes sociais, principalmente no TikTok;
• A NewsGuard, por exemplo, apontou a circulação de um vídeo com uma voz de IA imitando Barack Obama, o ex-presidente dos EUA, na rede social;
• As falsificações de áudio se tornaram uma nova ferramenta para disseminar desinformação online, especialmente antes das eleições de 2024;
• O TikTok exige rótulos para identificar conteúdo de IA como falso, mas os vídeos sinalizados pela NewsGuard ainda não apresentaram esses selos;
• Além do TikTok, conteúdo semelhante foi encontrado no YouTube, Instagram e Facebook.

Isso ocorre à medida que produtores de conteúdo e propagadores de desinformação adotam essas novas ferramentas. Por exemplo, a NewsGuard, uma empresa que monitora desinformação online, apontou recentemente a circulação de um vídeo com uma voz gerada por IA que emulava a de Barack Obama, ex-presidente dos EUA.

Leia mais:

• Deepfakes de IA alarmam celebridades e levantam questões legais
• Aprenda a usar o ChatGPT: 10 dicas valiosas para criar perguntas precisas
• ChatGPT e IA: o que os chatbots sabem sobre nós e com quem compartilham dados?

Vozes fake de IA no TikTok

No vídeo, Obama pode ser ouvido se defendendo contra uma nova teoria conspiratória explosiva sobre a morte súbita de seu ex-chef.

Era uma falsificação convincente, gerada por inteligência artificial usando ferramentas sofisticadas que podem clonar vozes reais para criar marionetes de IA com apenas alguns cliques.

A tecnologia usada para criar vozes de IA ganhou destaque e amplo reconhecimento desde que empresas como a ElevenLabs lançaram uma série de ferramentas no final de 2022.

Desde então, as falsificações de áudio rapidamente se tornaram uma nova arma no campo de batalha da desinformação online, ameaçando impulsionar a desinformação política antes das eleições de 2024.

Além disso, o uso de vozes de IA para compartilhar principalmente fofocas e rumores ofereceu um guia para agentes mal-intencionados que desejam manipular a opinião pública e espalhar falsidades para grandes públicos online.

É uma forma para essas contas conquistarem um público, para ganhar seguidores que podem envolver uma grande audiência. Uma vez que eles têm a credibilidade de ter um grande número de seguidores, podem mergulhar em conteúdos mais conspiratórios.

Jack Brewster, editor da NewsGuard

Outro lado

O TikTok exige rótulos que identifiquem conteúdo realista de IA como falso, mas eles não apareceram nos vídeos sinalizados pela NewsGuard.

O TikTok afirmou ter removido ou deixado de recomendar várias das contas e vídeos por violarem políticas sobre se passar por organizações de notícias e espalhar desinformação prejudicial.

A rede social também removeu o vídeo que usava a voz gerada por IA que imitava ex-presidente Obama, por violar a política de mídia sintética do TikTok, já que continha conteúdo altamente realista não rotulado como alterado ou falso.

O TikTok é a primeira plataforma a fornecer uma ferramenta para os criadores rotularem conteúdo gerado por IA e um membro inaugural de um novo código de boas práticas do setor que promove o uso responsável de mídia sintética.

Jamie Favazza, porta-voz do TikTok

Embora o relatório da NewsGuard tenha se concentrado no TikTok, que tem se tornado cada vez mais uma fonte de notícias, conteúdo semelhante foi encontrado se espalhando no YouTube, Instagram e Facebook, segundo o New York Times.