Um órgão europeu de direitos humanos determinou que o algoritmo de anúncios do Facebook permite discriminação de gênero, segundo matéria da CNN.
A decisão, considerada por especialistas como um marco, reforça a necessidade de responsabilizar empresas de tecnologia pelo impacto de seus sistemas automáticos sobre os usuários.
Como o algoritmo reforça estereótipos
O Instituto Holandês para os Direitos Humanos concluiu que o algoritmo do Facebook reforçava estereótipos de gênero na Holanda. Profissões tradicionalmente femininas eram promovidas a mulheres, enquanto ocupações consideradas masculinas, como vagas para mecânicos, eram direcionadas principalmente a homens.
A decisão surge após investigação da Global Witness, que analisou anúncios de emprego em seis países — Holanda, França, Índia, Irlanda, Reino Unido e África do Sul — e encontrou padrões de viés semelhantes globalmente. Quatro queixas foram apresentadas pelo Bureau Clara Wichmann (Holanda) e pela Fondation des Femmes (França).
Meta se posiciona, mas mantém restrições
A empresa destacou que já aplica restrições de segmentação em anúncios de emprego, imóveis e crédito em mais de 40 países, incluindo França e Holanda.
“Não permitimos que os anunciantes segmentem esses anúncios com base no gênero”, explica Ashley Settle, porta-voz da Meta, em comunicado de 2023.
Além disso, a plataforma afirma trabalhar com acadêmicos e grupos de direitos humanos para estudar e melhorar a equidade algorítmica, mas não detalhou como o algoritmo de anúncios é treinado.
Qual o impacto da decisão?
Especialistas afirmam que, embora a medida do Instituto não seja juridicamente vinculativa, tribunais podem usá-la como referência em futuras ações legais.
O advogado holandês Anton Ekker, especialista em IA e direitos digitais, explica que a decisão pode levar a multas ou ordens para modificar algoritmos que reforcem desigualdades de gênero, raça, etnia ou religião.
Hoje é um grande dia para os usuários holandeses do Facebook, que agora têm um mecanismo acessível para responsabilizar empresas multinacionais de tecnologia.
Berty Bannor, representante do Bureau Clara Wichmann, à CNN.
Para Rosie Sharpe, da Global Witness, a medida representa um passo importante para responsabilizar empresas pelo impacto discriminatório de seus algoritmos.
Mudanças polêmicas nas políticas da Meta
A decisão acontece após a plataforma anunciar a descontinuação de programas de diversidade, equidade e inclusão, alterações em suas políticas de conduta de ódio e o fim dos programas de verificação de fatos por terceiros nos EUA.
Leia mais:
- IA responsável: o desafio de equilibrar inovação, ética e controle
- Algoritmos com propósito: quando a tecnologia aprende a respeitar
- Seu corpo, sua voz e seu rosto ainda são seus? A IA pode fazer você duvidar
Algumas mudanças incluem a remoção de restrições que proibiam comentários depreciativos sobre mulheres ou pessoas trans, permitindo agora determinadas expressões com base em “discurso político e religioso”.
Por exemplo, usuários podem se referir a “mulheres como objetos domésticos ou propriedade” ou chamar pessoas transgênero ou binárias de “isso”, sem serem punidos.
Tags: