O Discord comprou uma empresa que trabalha com ferramentas de inteligência artificial para detectar assédio em plataformas online. A empresa adquirida é a Sentropy, que monitora redes online em busca de abusos e assédio, além de oferecer aos usuários mecanismos para bloquear pessoas consideradas tóxicas e filtrar mensagens possivelmente ofensivas.
O primeiro produto da empresa, o Sentropy Protect, foi inicialmente focado em ajudar seus usuários a limpar seus feeds do Twitter, posteriormente, foram lançadas ferramentas empresariais para auxiliar companhias na moderação de conteúdo. Com a compra, a empresa vai encerrar suas ferramentas independentes e se dedicar exclusivamente ao Discord.
No aplicativo de conversa queridinho dos gamers, a equipe da startup planeja ajudar na expansão e desenvolvimento de seus recursos de confiança e segurança. E o Discord é um terreno bastante fértil para isso, já que conta com uma enorme rede, com mais de 150 milhões de usuários ativos por mês, contudo, a moderação de conteúdo é um dos maiores desafios do serviço.
Desafio da moderação
Estima-se que o Discord tenha mais de 19 milhões de comunidades individuais, com o trabalho de moderação de conteúdo dentro dessas comunidades sendo feito somente por voluntários e algumas pequenas equipes dentro do aplicativo, o que não permite que todo o conteúdo seja moderado da maneira mais adequada.
Por conta disso, o Discord acabou se tornando um ambiente relativamente fértil para o crescimento de algumas comunidades, no mínimo, problemáticas, sendo algumas delas criminosas, como a “The Daily Stormer”, um grupo que dissemina ideias de supremacia branca e esteve ligada aos atos racistas realizados em Charlottesville em 2017.
Leia mais:
- Tecnologia de reconhecimento facial chega a 20 estados
- Saiba o que é doxxing e qual a sua relação com Hong Kong
- Pesquisador identifica falhas graves no Kaspersky Password Manager
A adesão de uma ferramenta como as que são desenvolvidas pela Sentropy podem ajudar os grupos de moderadores a monitorar melhor o mal comportamento dentro das comunidades. O Discord também usará a aquisição para expandir sua capacidade de detectar e remover conteúdo impróprio, além de aumentar seus mecanismos de segurança, segundo um porta-voz do Discord, confiança e segurança são uma “prioridade-chave” para a empresa.
Com informações do The Verge e Kotaku
Já assistiu aos nossos novos vídeos no YouTube? Inscreva-se no nosso canal!
Tags: