Meta, TikTok e Snap estão entre os membros fundadores de uma nova plataforma chamada Thrive, que foi oficialmente lançada em 12 de setembro de 2024 pela organização sem fins lucrativos Mental Health Coalition (MHC).
A Thrive pretende combater a disseminação de conteúdo prejudicial relacionado a suicídio e automutilação nas redes sociais, oferecendo uma abordagem colaborativa para abordar esses problemas críticos.
A plataforma facilitará a identificação e a remoção de material nocivo, permitindo que as empresas de mídia social compartilhem informações sobre conteúdo problemático de forma mais eficiente.
Isso será feito por meio do compartilhamento de “hashes” — sequências únicas de caracteres que identificam especificamente arquivos ou conteúdos associados a suicídio e automutilação. Esses hashes ajudam as plataformas a reconhecer e agir rapidamente contra material prejudicial sem compartilhar informações pessoais identificáveis sobre os usuários que postaram o conteúdo.
Plataformas poderão remover conteúdos problemáticos com mais eficácia
- A Meta, que forneceu a infraestrutura técnica para o Thrive, utiliza uma tecnologia semelhante à usada em seu programa de segurança infantil Lantern, lançado no ano passado.
- A plataforma permitirá que as empresas participantes, como Snapchat, recebam alertas quando um conteúdo for sinalizado como incentivador de automutilação.
- Com base nesses alertas, as plataformas poderão revisar e tomar as medidas necessárias para remover o conteúdo problemático e proteger os usuários.
Os membros do Thrive terão a capacidade de fazer upload, revisar e agir sobre conteúdo relacionado a suicídio e automutilação. Além disso, será publicado um relatório anual que avaliará o impacto da plataforma na prevenção desses problemas e fornecerá insights sobre como melhorar a abordagem colaborativa.
Kenneth Cole, fundador da Mental Health Coalition, expressou entusiasmo pela parceria, ressaltando a importância de uma colaboração entre as principais plataformas de mídia social para enfrentar o conteúdo prejudicial. Ele afirmou que a iniciativa representa um passo significativo em direção a uma abordagem mais eficaz e coordenada para proteger os usuários e salvar vidas.
O lançamento do Thrive ocorre em um contexto de crescente preocupação com o impacto das redes sociais na saúde mental dos usuários, especialmente entre adolescentes.
Leia mais:
- Tentativa de suicídio de mulheres: quais as causas e tratamentos
- Entenda como as redes sociais podem afetar sua saúde mental
- Saúde mental: dez dicas de como usar as redes sociais de maneira saudável
Há dois anos, autoridades do Reino Unido responsabilizaram o Instagram, de propriedade da Meta, pelo suicídio de uma garota de 14 anos chamada Molly Russell, que havia sido exposta a conteúdo incentivando a automutilação na plataforma.
Essa tragédia e outros casos semelhantes têm levado a uma pressão crescente sobre as empresas de tecnologia para adotarem medidas mais rigorosas para combater o conteúdo nocivo e proteger a saúde mental dos usuários.
Tags: