IA tendenciosa e os desafios da diversidade

Tudo sobre Inteligência Artificial

O recente artigo ‘What if we could just ask AI to be less biased?’ (E se pudéssemos pedir para a Inteligência Artificial ser menos tendenciosa?), assinado pela jornalista Melissa Heikkilä, para o MIT Technology Review, foi um dos temas que mais me despertou à atenção nos últimos tempos.

Construídos e alimentados principalmente por empresas dos EUA, o universo da Inteligência Artificial carrega a identidade fenotípica de pessoas e objetos que pareçam americanas. Para exemplificar o que estamos falando (e ampliando a discussão), segundo Heikkilä, quando a inteligência DALL-E 2 descreve ‘CEO’ ou ‘Diretor’, 97% das vezes os resultados apresentam como resposta homens brancos.

Leia mais:

Entendendo que a intervenção humana tem interferência direta na concepção dos algoritmos, é basilar pensar a diversidade desde a sua concepção, partindo do questionamento sobre quais atores estão responsáveis pela inteligência por trás do artificial.

Mais do que questionar a qualidade, efetividade e eficácia da IA, é importante provocar a base estrutural – assim como deve ser na política, educação, economia e cultura –, indo na ‘raiz da causa’ e reparando efeitos incoerentes.

Entendendo um pouco mais do que alimenta/constrói esse cenário, dados do YouGov Global Profiles concluíram que 66% dos profissionais que atuam nas áreas de TI e telecomunicações, são homens. De acordo com os números do PNAD, no Brasil, apenas 20% dos profissionais da área são mulheres.

Reconhecendo que aqui estamos restritos a gênero, quando recortamos para aspectos étnico-raciais, socioculturais, geográfico, físicos e de orientação social, o problema é mais complexo — ainda mais se unirmos características diversas entre essas aqui listadas.

Discussão desnecessária para uns, mas indispensável para uma sociedade saudável, submergir da superficialidade e entender fatores tecnológicos que influenciam na equidade e inclusão, é um pilar para os cientistas sociais responsáveis pelo desenvolvimento dos mais diversos avanços da humanidade.

Como forma rápida (e provisória) de solução aos problemas de enviesamento dos resultados, Melissa Heikkilä destaca algumas ferramentas de ajuste da Inteligência Artificial. Ou seja, conforme provocamos o status quo, hackeamos o sistema em busca de soluções mais rápidas e inclusivas, deixando dois questionamentos: enquanto a mudança basilar não ocorre, essas ferramentas já devem nascer com o sistema? E até quando isso deve durar, sem que pareça conformismo socioeconômico-tecnológico?