Apesar de restrições impostas pelo Pinterest, conteúdo de ódio ainda pode ser encontrado com facilidade na plataforma, mas não pela busca direta. Um recente teste pesquisou por palavras relacionadas ao antissemitismo, como o lema “6MWE” – termo obsceno que alude ao fato de que a morte de 6 milhões de judeus durante o Holocausto não foi suficiente – e, prontamente, um aviso sobre a proibição do conteúdo surgiu na tela. Contudo, quando a busca foi feita através do Google, apareceram dezenas de pins com mercadorias que incitam a violência contra judeus, o tipo de coisa que o Pinterest diz limitar.

A busca teste através do Google encontrou 64 pins que direcionavam a produtos com o lema “6mwe” – uma abreviação de “6 milhões não eram suficientes” – em referência ao número de judeus mortos durante o Holocausto. Os pins são marcadores que as pessoas usam para salvar aquelas postagens que mais gostaram no Pinterest. Além de transgredir a lei e a moral, as marcações antissemitas violam as regras da plataforma, mais precisamente a parte que impede o compartilhamento de “teorias da conspiração baseadas no ódio e na desinformação, como a negação do Holocausto”.

publicidade

Segundo o The Next Web, essa porta dos fundos encontrada pelos grupos antissemitas para divulgar seus produtos e ideologia levanta questões sobre a eficácia da estratégia de moderação do Pinterest, que consiste em tentar restringir o conteúdo odioso em vez de se concentrar na remoção. Os críticos argumentam que o procedimento atual do site não proíbe de fato a violência, apenas inclui alguns obstáculos. Dessa maneira, o conteúdo ofensivo ainda pode se espalhar e persistir “escondido” por muito tempo e fazer estragos.

“O fato de que esse conteúdo odioso e ofensivo seja facilmente acessível no Pinterest demonstra o quão longe as empresas de tecnologia ainda precisam ir para lidar com até mesmo os exemplos mais óbvios de ódio”, lamentou Jonathan Greenblatt, CEO da Liga Antidifamação, uma organização não governamental judaica internacional, com sede nos Estados Unidos.

O Pinterest foi concebido como uma rede social positiva, através do compartilhamento de imagens que inspirassem as pessoas. No entanto, devido a falhas na moderação, a plataforma tem dado espaço também para a proliferação de grupos e conteúdo de ódio.

Crystal Espinosa, porta voz do Pinterest, reafirma a política divulgada pela empresa, de que não há lugar para discurso de ódio na plataforma. Ela, contudo, reconhece a necessidade de melhorar seus sistemas de moderação. “Quando identificamos ou tomamos conhecimento de um conteúdo que viola nossas políticas, revisamos e agimos. Porém, devido ao volume e à complexidade dos conteúdos, sempre há mais a ser feito”, disse.

O episódio contraditório (e lamentável) envolvendo grupos antissemitas não é uma grande surpresa para os usuários do Pinterest, já que essa não é a primeira vez que a empresa falha na moderação de conteúdos proibidos. No ano passado, uma investigação da OneZero descobriu que a plataforma não removeu postagens que violavam suas próprias regras. À época, a rede social permitiu que imagens sexualizadas de meninas, desinformação sobre as vacinas contra a Covid-19 e conteúdos relacionados ao QAnon – grupo de extrema direita que prega a supremacia branca – persistissem no site. O acesso a esses “tópicos ocultos” foi igualmente facilitada pela busca do Google. 

Leia mais:

O Pinterest têm divulgado recentemente que incluiu melhorias no seu sistema de monitoramento. Para validar esses esforços, um blog de engenharia da plataforma compartilha informações sobre as últimas atualizações de conteúdos que violem suas políticas. A moderação, diz o blog, usa aprendizado de máquina e reconhecimento de imagem para procurar novos pins que são criadas em modelos treinados para identificar violações de políticas.

Resta, então, esperar que essas atualizações enfim consolidem o Pinterest como a rede social verdadeiramente inspiradora e com conteúdos positivos para a qual foi planejada.