TikTok: conteúdos nazistas circulam na rede, alerta pesquisa

Um estudo aponta que conteúdos nazistas e com discurso de ódio estão cada vez mais presentes no TikTok. Os usuários da rede social têm driblado as ferramentas de moderação por meio de expressões e símbolos aparentemente banais, mas que escondem mensagens de incitação ao ódio e violência, cooptando jovens para grupos extremistas.

Leia mais

• Pais acusam algoritmo do TikTok de contribuir para suicídio da filha; entenda
• TikTok lista medidas contra desinformação após exigência da UE
• TikTok testa upload de vídeos mais longos

Tática “apito de cachorro”

• A partir de uma observação de duas semanas, as pesquisadoras Letícia Oliveira e Tatiana Azevedo concluíram que usuários do TikTok têm utilizado a tática conhecida como “apito de cachorro” (em referência ao apito canino inaudível para humanos e usado para adestrar cães) para disseminar o conteúdo ilegal.
• Para o estudo, elas criaram uma conta que passou a seguir e curtir vídeos de perfis com conteúdo neonazista e que fazem parte da subcomunidade que cultua autores de massacres escolares.
• Em pouco tempo, o algoritmo do TikTok reconheceu o conteúdo preferido do perfil e passou a fazer recomendações de vídeos e contas dessa temática na aba “Para você”.
• Procurada, a empresa afirma que trabalha constantemente para garantir que a plataforma seja um ambiente em que todos se sintam seguros.
• Por isso, diz que as diretrizes deixam claro o que não pode ser publicado, como a propagação de violência e ódio.
• As informações são da Folha de São Paulo.

Outras formas de driblar a moderação do TikTok

As pesquisadoras alertam sobre o risco de esses conteúdos alcançarem os jovens, principalmente aqueles com transtornos mentais ou em sofrimento. É o caso do aluno de 16 anos que entrou armado na escola estadual Sapopemba, na zona leste de São Paulo, na última segunda (23), matando uma adolescente e ferindo outros três estudantes.

No inquérito policial, a mãe do atirador revelou que ele era um usuário frequente do Tiktok e produzia conteúdo em situações controversas para alcançar mais seguidores e fama. Em uma ocasião, o jovem publicou um vídeo com uma suástica desenhada no rosto e, às vésperas do ataque na escola, se automutilou na coxa com o símbolo. Para a polícia, o objetivo dele era se promover na internet com o ataque.

Apesar do caso mais recente, o estudo cita que os usuários têm se distanciado de símbolos mais conhecidos, como a suástica, e optado por códigos nos nicknames e símbolos na foto do perfil. Um deles é o símbolo do Sol Negro, que pesquisas apontam ser símbolo popular entre neonazistas e é composto por três elementos: a roda solar, a suástica e uma letra do alfabeto usado pelas antigas tribos germânicas.

Há, ainda, diversos nicknames que combinam os números 14 e 88. Isso porque o número 14 se refere às 14 palavras da frase do supremacista branco americano David Lane e o 88 significa “Heil Hitler”, uma vez que o número representa a letra H, a oitava no alfabeto.

Na pesquisa ainda é citada a trend “caça aos gnomos”, que foi denunciada em junho pela GNET (Global Network on Extremism and Technology) por fazer uma referência velada à “caça aos judeus”.

Dados da ONG Safernet mostram como a estratégia de disfarçar esse tipo de conteúdo funciona para driblar tanto a moderação como as denúncias. Após registrar dois anos de recordes consecutivos, as denúncias de conteúdos de neonazismo tiveram uma queda.