É comum que big techs paguem empresas de segurança que descobrem erros em seus sites e aplicativos. Mas dessa vez o Twitter vai recompensar pesquisadores que identificarem alguma forma de preconceito no algoritmo da rede social que recorta as imagens.
Isso foi detectado a primeira vez ano passado, quando internautas acusaram a plataforma excluir o rosto de pessoas negras no recorte. Enquanto brancos eram exibidos normalmente. Na época, o Twitter disse que não tinha nenhum tipo de programação para que o sistema agisse com preconceito e que iria verificar o que estava causando o problema.
Após o episódio, o Twitter mudou um pouco as coisas e passou a exibir fotos quase completas em seu aplicativo para smartphones. No entanto, dependendo do tamanho da imagem, o algoritmo de recorte ainda age, exibindo apenas uma parte selecionada automaticamente da foto e exigindo que os usuários cliquem para ver o conteúdo completo.
Twitter e o preconceito no recorte
O algoritmo foi lançado em 2018. Na época o objetivo era testar exibir os trechos mais interessantes de uma imagem na pré-visualização da plataforma. Em abril, o Twitter disse que estudaria potenciais “danos não intencionais” causados pelo sistema.
“Em maio, nós compartilhamos nossa abordagem para identificar vieses em nosso algoritmo de saliência (também conhecido como nosso algoritmo de recorte de imagem) e disponibilizamos nosso código para que outros reproduzam nosso trabalho,” disse o Twitter em uma postagem em seu blog falando sobre preconceito na plataforma.
“Queremos levar este trabalho um passo adiante, convidando e incentivando a comunidade a ajudar a identificar os danos potenciais desse algoritmo além do que nós mesmos identificamos,” completou. O prêmio oferecido é de até US$ 3.500 para quem conseguir identificar o problema no algoritmo.
“Acreditamos que as pessoas devem ser recompensadas por identificar esses problemas e não podemos resolver esses desafios sozinhos,” disse Rumman Chowdhury, diretor da equipe de Ética, Transparência e Responsabilidade de Aprendizado de Máquina do Twitter sobre o estudo de um possível preconceito no recorte de imagens.
Já assistiu aos nossos novos vídeos no YouTube? Inscreva-se no nosso canal!
Tags: