Siga o Olhar Digital no Google Discover
Nos últimos meses, usuários do Instagram têm relatado uma crescente exposição a conteúdos perturbadores e inadequados, mesmo sem buscar por esse tipo de material. Relatos incluem vídeos de violência extrema, imagens chocantes e até conteúdos gerados por inteligência artificial que flertam com o bizarro.
Ofertas
Por: R$ 113,70
Por: R$ 6,90
Por: R$ 37,92
Por: R$ 22,59
Por: R$ 59,95
Por: R$ 3.099,00
Por: R$ 3.324,00
Por: R$ 799,00
Por: R$ 241,44
Por: R$ 388,78
Por: R$ 2.159,00
Por: R$ 188,99
Por: R$ 45,00
Por: R$ 379,00
Por: R$ 1.239,90
Por: R$ 943,20
Por: R$ 798,99
Por: R$ 199,00
Por: R$ 476,10
Por: R$ 1.139,05
Por: R$ 949,00
Por: R$ 119,90
Por: R$ 398,99
Por: R$ 79,90
Por: R$ 199,90
O fenômeno ocorre em meio a mudanças na política de moderação da Meta – dona do Instagram Facebook e WhasApp – e levanta preocupações sobre o impacto desses conteúdos, especialmente para menores de idade.
Conteúdos indesejados estão aparecendo cada vez mais
- Algoritmo impulsiona conteúdos perturbadores: usuários relatam que o Instagram tem recomendado conteúdos bizarros ou violentos, muitas vezes sem que tenham interagido com esse tipo de postagem antes.
- Impacto sobre menores de idade: adolescentes e crianças, mesmo com configurações restritivas ativadas, foram expostos a imagens de violência e nudez.
- Mudanças na moderação do Instagram: a Meta flexibilizou algumas regras de moderação e encerrou seu programa de verificação de fatos, o que pode estar contribuindo para o aumento desse tipo de conteúdo.
Relatos apontam falhas na recomendação de conteúdo
A norte-americana Kelly Takasu, de 36 anos, contou ao jornal The Washington Post que passou a receber sugestões de vídeos estranhos depois de buscar conteúdos sobre amamentação. Segundo ela, o algoritmo passou a recomendar vídeos de mulheres idosas cercadas por bebês e, eventualmente, cenas ainda mais bizarras, incluindo imagens geradas por inteligência artificial de bebês híbridos entre humanos e pandas.
Leia também:
- Como limitar conteúdo violento nas redes sociais
- 4 maneiras de filtrar conteúdo no Instagram
- Notas da Comunidade no Instagram e Facebook já têm data para começar
“Percebi que tinha recebido uma recomendação estranha no Reels e acabei olhando por tempo demais. Depois disso, o Instagram começou a me mostrar conteúdos cada vez mais bizarros”, disse Takasu. Para evitar mais recomendações do tipo, ela precisou redefinir as recomendações do Instagram.
Outros usuários também relataram ter recebido conteúdos impróprios. O filho de 17 anos de uma usuária identificada como Courtney viu, em um único dia, vídeos de assassinatos, corpos mutilados e até uma mulher dando à luz. “Ele viu execuções e pessoas morrendo em acidentes. Foi como um ataque à mente deles”, disse a mãe, que havia habilitado todas as configurações de proteção da plataforma.
Falha no Instagram ou decisão da Meta?
A Meta reconheceu que um erro em seu sistema fez com que mais usuários vissem conteúdos que normalmente não seriam recomendados. “Corrigimos um erro que fez com que alguns usuários vissem temporariamente conteúdos no Reels que não deveriam ter sido sugeridos. Pedimos desculpas pelo erro”, afirmou a porta-voz da empresa, Erin Logan.
Ainda assim, a exposição a conteúdos sensíveis pode estar ligada a outras decisões da plataforma. Recentemente, a Meta encerrou seu programa de verificação de fatos e flexibilizou regras sobre discursos controversos. Além disso, mudanças no algoritmo podem ter favorecido conteúdos extremos, já que materiais mais chocantes tendem a gerar maior engajamento.
A empresa afirma que seu sistema permite esconder conteúdos sensíveis para menores de idade e que os usuários podem ajustar suas preferências de recomendação. No entanto, especialistas apontam que a responsabilidade sobre o que circula nas plataformas deveria ser maior.
Sandra Wachter, professora da Universidade de Oxford, explica que algoritmos de recomendação aprendem com o comportamento dos usuários e tendem a privilegiar conteúdos impactantes. “Sabemos que o que mantém as pessoas engajadas é o que é escandaloso, tóxico e sensacionalista”, disse. “Boas notícias não vendem tão bem. Por isso, esses sistemas acabam reforçando conteúdos problemáticos.”
Usuários preocupados começam a abandonar a plataforma
O impacto da exposição a conteúdos extremos pode ser grave, especialmente para adolescentes. A Meta já foi acusada anteriormente de expor menores a materiais que contribuem para transtornos alimentares e problemas de saúde mental. Taylor Little, de 22 anos, processou a empresa alegando que o Instagram contribuiu para seu distúrbio alimentar ao recomendar conteúdos sobre dietas extremas e automutilação.
Diante dessas preocupações, alguns usuários estão optando por abandonar a plataforma. Michael Bock, empresário de 31 anos, relatou que costumava ver apenas conteúdos sobre bicicletas e cães, mas recentemente começou a receber vídeos de brigas, acidentes e até homicídios. “Não acho que posso continuar contribuindo para uma plataforma que está prejudicando os usuários”, afirmou.
Tags: