O Tumblr chegou a um acordo com a Comissão de Direitos Humanos de Nova York para resolver acusações de descriminação por parte da rede. Segundo denúncias, a empresa teria afetado desproporcionalmente a comunidade LGBTQIA+ ao proibir o compartilhamento de pornografia.

O acordo impõe ao Tumblr a revisão de seus processos de apelação de usuários, além de treinar seus moderadores humanos para questões ligadas à diversidade e inclusão. Além disso, a empresa também terá que revisar casos antigos na busca de possíveis vieses em seus algoritmos de moderação.

publicidade

Acordo não envolveu a justiça

A decisão do Tumblr não teve nenhuma relação com reclamações legais feitas pela Comissão de Direitos Humanos de Nova York, o acordo foi assinado de de bom grado pela empresa. Essa é uma das primeiras vezes que reguladores mudam políticas de moderação com base em questões de viés algorítmico.

A assinatura do acordo resolve uma questão que se arrasta desde dezembro de 2018, depois que a rede de blogs proibiu conteúdo sexual explícito e nudez. Desde então, o Tumblr vem sendo bastante criticado por conta de um sistema automatizado de remoção bastante impreciso.

publicidade

Leia mais:

Segundo a secretária de imprensa da Comissão de Direitos Humanos de Nova York, Alicia McCauley, a agência recebeu denúncias da comunidade LGBTQIA+. As denúncias eram de que o algoritmo configurado pelo Tumblr para encontrar conteúdo explícito  tinha um efeito desproporcional nesta base de usuários.

publicidade

Algoritmo enviesado

Imagem mostra um cubo de madeira com um coração nas cores do arco-íris colocado em cima de um teclado de notebook
Tumblr terá seis meses para apresentar um profissional especializado em questões de identidade de gênero e orientação sexual. Imagem: Jakub Krechowicz – Shutterstock

De acordo com as denúncias, os algoritmos de moderação do Tumblr seriam mais propensos a sinalizar conteúdo LGBTQIA+ como sendo explícito, mesmo sem nudez. Isso levou à suspeita de que os algoritmos usados para conteúdo explícito estariam enviesados.

McCauley diz que a Lei de Direitos Humanos de Nova York oferece proteção contra preconceito com base em identidade de gênero e orientação sexual. Segundo ela, se uma empresa faz negócios em Nova York, a comissão tem autoridade para investigar a mesma afeta negativamente as pessoas.

publicidade

O Tumblr agora tem 180 dias para contratar uma pessoa que seja especialista em questões de identidade de gênero e orientação sexual para treinar os moderadores humanos. Também serão revisados mais de 3.000 casos antigos na busca de padrões que possam indicar vieses do algoritmo

Via: The Verge

Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!