Instagram: algoritmo do Reels é acusado de expôr conteúdo inapropriado

O serviço de vídeos curtos do Instagram, Reels, projetado para apresentar aos usuários streams de vídeos sobre temas de interesse, como esportes, cinema ou humor, foi recentemente submetido a testes pelo The Wall Street Journal. Os resultados revelaram que o algoritmo do Reels pode direcionar conteúdo sexualizado e inadequado para usuários que demonstram interesse em jovens.

Os testes conduzidos pelo jornal americano envolveram a criação de contas de teste que seguiram exclusivamente jovens influenciadores, e o Reels respondeu expondo essas contas a conteúdos explícitos, incluindo vídeos de crianças e adultos em situações sexuais, além de anúncios de grandes marcas dos Estados Unidos.

Leia mais:

• Como deixar seu Instagram mais seguro: veja 8 configurações para aplicar
• Como parar a troca de dados do Instagram com outros apps
• Como criar uma conta no Instagram pelo PC ou celular

A investigação também revelou que a presença significativa de adultos do sexo masculino entre os seguidores dessas contas de jovens levantou preocupações adicionais. Mesmo quando as contas de teste começaram a seguir usuários que demonstraram interesse em conteúdo sexual relacionado a crianças e adultos, o algoritmo continuou a recomendar conteúdo perturbador.

Em um dos casos relatados, um anúncio do aplicativo de namoro Bumble apareceu entre um vídeo de alguém acariciando o rosto de uma boneca de látex em tamanho real e uma gravação de uma menina jovem levantando a camiseta para expor o abdômen. Grandes empresas como Disney, Walmart e outras também tiveram anúncios veiculados ao lado de conteúdo inadequado.

Resposta da Meta e de anunciantes

• A Meta Platforms, proprietária do Instagram, afirmou ao The Wall Street Journal que os testes criaram uma experiência artificial que não representa o que bilhões de usuários veem.
• A empresa se recusou a comentar por que os algoritmos compilaram streams de vídeos separados mostrando crianças, sexo e anúncios.
• No entanto, um porta-voz destacou que, em outubro, foram introduzidas novas ferramentas de segurança de marca que proporcionam aos anunciantes maior controle sobre onde seus anúncios aparecem.
• Empresas cujos anúncios apareceram ao lado de conteúdo inadequado nos testes do Journal, incluindo Disney e Walmart, exigiram explicações da Meta e, em alguns casos, cancelaram a publicidade.
• A Match Group, por exemplo, interrompeu completamente a publicidade no Reels e em outras plataformas da Meta.
• O WSJ disse ter informado a Meta sobre os resultados dos testes em agosto, e desde então, novos testes mostram que a plataforma continuou a recomendar vídeos inapropriados.
• Até meados de novembro, o Instagram ainda estava recomendando o que foi descrito pela organização Canadian Centre for Child Protection como “adultos e crianças fazendo poses sexuais”.