O uso do reconhecimento facial ainda é um desafio para as empresas de tecnologia. Permitindo uma autenticação “ágil, segura e prática” para o/a usuário(a), a ferramenta, quando usada em dispositivos móveis e/ou de autenticação, costuma exigir alguns cuidados simples, como iluminação adequada e ambiente neutro, imperativos mínimos perto do que realmente nos afeta.
Em 2022, escrevi o artigo “Racismo algorítmico e os desafios da inteligência artificial” para o Olhar Digital. Nesse artigo, destaco que, “segundo dados da Rede de Observatório de Segurança, em 2019, cerca de 90,5% das pessoas detidas erroneamente por reconhecimento facial no Brasil foram negros”.
Com muitas polêmicas após a publicação, provoco nele a importância na elaboração de padrões diversos nos momentos de construção e validação da inteligência artificial (IA), para que, assim/então, tenhamos mais assertividade, imparcialidade e isonomia em seu uso.
Agora, em 2024, retomo este assunto para, mais uma vez, provocar o treinamento insuficiente de dados, mas, dessa vez, com outro recorte: o erro do reconhecimento facial no gênero de pessoas trans.
Reconhecimento facial ainda tem falhas no reconhecimento de grupos minoritários (Imagem: Trismegist san/Shutterstock)
De acordo com o estudo da Universidade do Colorado, nos Estados Unidos, a taxa de acerto no reconhecimento facial de pessoas trans e não binárias é inferior a 60%, dado que contrapõe as taxas de acerto de 98,3% para mulheres cis e 97,6% para homens cisgêneros.
Sim, essa discussão não é simples.
Segundo o jornalista Pedro S. Teixeira, na matéria “Reconhecimento facial erra gênero de pessoas trans” para a Folha de S.Paulo, “a falha ocorre porque o algoritmo de identificação se baseia em medidas da face, como distância entre os olhos ou entre o nariz e o lábio superior e pode confundir o gênero da pessoa identificada”.
Problema pode parecer sem solução, mas não é (Imagem: metamorworks / Shutterstock)
Coerente, mas não inclusiva, para algumas pessoas, a solução pode ser a pessoa atualizar seus dados após a transição, correto? Não! O processo de transição para pessoas trans envolve tempo e fases. Segundo especialistas, a fase de hormonização é a que mais causa falhas de sistema, o que exigiria da pessoa a contínua atualização de sua imagem em TODAS as empresas e dispositivos que usam essa inteligência. E é aí que vamos responder juntos(as): o quanto isso é saudável, ágil e inclusivo?
Aparentemente sem solução, o grupo de afinidade de pessoas trans do Publicis Groupe (Égalitrans), em parceria com a ONG Casarão, desenvolveu a API “Eu existo”, uma interface de programação de aplicações que tem a meta de treinar o algoritmo dos sistemas de reconhecimento facial e, assim, acabar, ou, ao menos, diminuir consideravelmente, as situações de falha.
O desafio, agora, é convencer as empresas sobre a importância da tecnologia, a inclusão da diversidade nos mecanismos de inteligência artificial e a exigência social para que todas as pessoas se sintam inseridas – respeitadas e contempladas – em qualquer avanço tecnológico e social.
Tags: