Recentemente, o Twitter anunciou que está oferecendo um prêmio de US$ 3.500 para quem encontrar preconceito no algoritmo de recorte de foto da rede social. O problema com esse mecanismo não é de hoje, mas o que levou a empresa a convocar a ajuda de hackers para encontrar defeitos em sua própria plataforma?

Apesar de ser a primeira vez que um programa desse tipo é feito para identificar problemas com a inteligência artificial de uma grande empresa, esse tipo de colaboração com a comunidade e o pagamento de prêmios é comum no mundo do TI. O Twitter se inspirou nisso para criar sua iniciativa própria.

publicidade

“O Twitter sempre foi moldado pelas pessoas que o usam e o conhecem melhor, por isso queremos cultivar uma comunidade semelhante, focada na ética, para nos ajudar a identificar uma gama mais ampla de questões do que poderíamos fazer por conta própria. Com este desafio, pretendemos abrir um precedente no Twitter e na indústria para a identificação proativa e coletiva de danos algorítmicos”, disse Jutta Williams, gerente de produto do Twitter ao The Next Web.

Twitter. Imagem: Shutterstock

Algoritmo do Twitter

“Queremos levar este trabalho um passo adiante, convidando e incentivando a comunidade a ajudar a identificar os danos potenciais desse algoritmo além do que nós mesmos identificamos”, disse Rumman Chowdhury, chefe da equipe de ética do Twitter.

O problema no algoritmo do Twitter foi detectado recentemente, quando internautas acusaram a plataforma excluir o rosto de pessoas negras no recorte. Enquanto brancos eram exibidos normalmente. Na época, o Twitter disse que não tinha nenhum tipo de programação para que o sistema agisse com preconceito e que iria verificar o que estava causando o problema.

Leia também!

Após o episódio, o Twitter mudou um pouco as coisas e passou a exibir fotos quase completas em seu aplicativo para smartphones. No entanto, dependendo do tamanho da imagem, o algoritmo de recorte ainda age, exibindo apenas uma parte selecionada automaticamente da foto e exigindo que os usuários cliquem para ver o conteúdo completo.

“Programas de recompensa como este são essenciais para ajudar a aumentar a conscientização sobre os danos e preconceitos que podem existir em algoritmos que estão além do nosso escopo atual de experiências vividas e compreensão. Também convidamos uma gama mais ampla de perspectivas do que é possível em uma equipe ou em uma empresa; Queremos abrir linhas de comunicação globalmente e fornecer uma plataforma e incentivo para que mais pessoas se envolvam”, completou Chowdhury.

As inscrições estão abertas até o dia 6 agosto. Os vencedores serão anunciados no workshop DEF CON AI Village em 8 de agosto. Qualquer pessoa com uma conta HackerOne pode participar da competição.

Já assistiu aos nossos novos vídeos no YouTube? Inscreva-se no nosso canal!