Imagem: Sulastri Sulastri/Shutterstock
O Tumblr chegou a um acordo com a Comissão de Direitos Humanos de Nova York para resolver acusações de descriminação por parte da rede. Segundo denúncias, a empresa teria afetado desproporcionalmente a comunidade LGBTQIA+ ao proibir o compartilhamento de pornografia.
O acordo impõe ao Tumblr a revisão de seus processos de apelação de usuários, além de treinar seus moderadores humanos para questões ligadas à diversidade e inclusão. Além disso, a empresa também terá que revisar casos antigos na busca de possíveis vieses em seus algoritmos de moderação.
A decisão do Tumblr não teve nenhuma relação com reclamações legais feitas pela Comissão de Direitos Humanos de Nova York, o acordo foi assinado de de bom grado pela empresa. Essa é uma das primeiras vezes que reguladores mudam políticas de moderação com base em questões de viés algorítmico.
A assinatura do acordo resolve uma questão que se arrasta desde dezembro de 2018, depois que a rede de blogs proibiu conteúdo sexual explícito e nudez. Desde então, o Tumblr vem sendo bastante criticado por conta de um sistema automatizado de remoção bastante impreciso.
Leia mais:
Segundo a secretária de imprensa da Comissão de Direitos Humanos de Nova York, Alicia McCauley, a agência recebeu denúncias da comunidade LGBTQIA+. As denúncias eram de que o algoritmo configurado pelo Tumblr para encontrar conteúdo explícito tinha um efeito desproporcional nesta base de usuários.
De acordo com as denúncias, os algoritmos de moderação do Tumblr seriam mais propensos a sinalizar conteúdo LGBTQIA+ como sendo explícito, mesmo sem nudez. Isso levou à suspeita de que os algoritmos usados para conteúdo explícito estariam enviesados.
McCauley diz que a Lei de Direitos Humanos de Nova York oferece proteção contra preconceito com base em identidade de gênero e orientação sexual. Segundo ela, se uma empresa faz negócios em Nova York, a comissão tem autoridade para investigar a mesma afeta negativamente as pessoas.
O Tumblr agora tem 180 dias para contratar uma pessoa que seja especialista em questões de identidade de gênero e orientação sexual para treinar os moderadores humanos. Também serão revisados mais de 3.000 casos antigos na busca de padrões que possam indicar vieses do algoritmo
Via: The Verge
Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!
Esta post foi modificado pela última vez em 1 de março de 2022 11:54
Deixe seu comentário