Publicações geradas por inteligência artificial estão bombando no TikTok — e não são poucas. Segundo pesquisadores, centenas de contas dedicadas a criar vídeos com IA acumularam bilhões de visualizações em apenas um mês.
O levantamento também revelou que parte desse conteúdo inclui material sexualizado, anti-imigração e até trechos falsificados de telejornais, levantando novas preocupações sobre manipulação e desinformação na plataforma, comenta matéria no The Guardian.
Boom de posts com IA inclui fake news e conteúdo anti-imigração que engana usuários e domina o feed. Imagem: Arkadiusz Warguła/iStock
Números de IA viral no TikTok impressionam
De acordo com o relatório da AI Forensics, uma organização sem fins lucrativos sediada em Paris, 354 contas focadas em IA publicaram cerca de 43 mil posts criados com ferramentas generativas. O impacto: 4,5 bilhões de visualizações em um único mês.
Os pesquisadores afirmam que algumas dessas contas tentam manipular o algoritmo do TikTok ao publicar volumes massivos de vídeos, chegando, em alguns casos, a 70 posts por dia — o que sugere automação. A maioria dessas contas foi criada no início de 2025, indicando um crescimento acelerado desse tipo de conteúdo.
“A linha tênue entre conteúdo humano autêntico e conteúdo sintético gerado por IA na plataforma sinaliza uma nova tendência em direção a mais conteúdo gerado por IA nos feeds dos usuários”, comentam os pesquisadores.
O TikTok divulgou recentemente que existem ao menos 1,3 bilhão de postagens geradas por IA na plataforma. E, como mais de 100 milhões de vídeos são enviados todos os dias, o material rotulado como IA ainda representa uma parcela pequena do catálogo geral.
Pesquisadores apontam que a avalanche de vídeos sintéticos torna cada vez mais difícil diferenciar conteúdo humano do gerado por IA. Imagem: Kaspars Grinvalds/Shutterstock
O que mais aparece nesses vídeos?
Entre as contas que mais publicam, metade foca em conteúdo relacionado ao corpo feminino. “Essas mulheres geradas por IA são sempre atraentes, com roupas sexualizadas ou com decotes”.
A análise também identificou que:
Metade dos posts nem sequer era rotulada como conteúdo de IA;
Menos de 2% usavam o selo oficial do TikTok para material gerado artificialmente;
Vários vídeos simulavam telejornais com narrativas anti-imigração;
Algumas publicações sexualizavam corpos de meninas que aparentavam ser menores de idade.
Após a denúncia, diversas contas analisadas foram excluídas.
TikTok rebate relatório e diz que os desafios com conteúdo de IA não são exclusivos da plataforma. Imagem: Jeppe Gustafsson/Shutterstock
TikTok rebate e defende moderação
Diante das conclusões do relatório, o TikTok afirmou que as alegações eram “infundadas”. A plataforma declarou que o problema não é exclusivo dela e reforçou o investimento em moderação e ferramentas de controle.
Segundo um porta-voz da empresa, o “conteúdo prejudicial gerado por inteligência artificial” é removido, com o bloqueio de “centenas de milhões de contas de bots”. Além disso, segundo ele, o TikTok investe “em tecnologias de rotulagem de IA líderes do setor”.
Os pesquisadores argumentam que a plataforma precisa ir além dos rótulos. Para eles, “as plataformas precisam ir além de rótulos fracos ou opcionais de ‘conteúdo de IA’ e considerar a segregação do conteúdo gerado por IA do material criado por humanos”.
Mas também existe conteúdo “fofo”
Nem todo o conteúdo é perigoso: parte das publicações mais populares é formada por vídeos “absurdos”, como animais disputando competições olímpicas ou bebês falantes. Esse tipo de conteúdo ganhou o rótulo de “irrelevante”, mas os pesquisadores reconhecem que muitos desses vídeos são “divertidos” e “fofos”.
No fim, a investigação concluiu que a presença massiva de IA no TikTok já faz parte de um ecossistema maior de viralização, e a linha entre conteúdo autêntico e sintético deve ficar ainda mais difícil de identificar no futuro.
Layse Ventura é jornalista (Uerj), mestre em Engenharia e Gestão do Conhecimento (Ufsc) e pós-graduada em BI (Conquer). Acumula quase 20 anos de experiência como repórter, copywriter e SEO.
Tags: