Uma nova lei envolvendo inteligência artificial passou a valer nesta quarta-feira (5) na cidade de Nova York, nos Estados Unidos. O texto exige que empregadores permitam a fiscalização de contratações feitas usando a tecnologia. O processo será conduzido por auditorias independentes.
Leia mais:
- ONU irá usar robôs para atingir metas globais; entenda
- Quanto custaria para digitalizar o mundo? Pesquisa mostra a faz alerta
- Inteligência artificial: conheça os pontos negativos e perigos da IA
O que você precisa saber
- A New York City Local Law 144 exige que empregadores que usam algoritmos de IA para recrutar, contratar ou promover funcionários enviem os dados para uma auditoria independente para torná-los públicos;
- Com a nova lei, as empresas deverão tornar públicos os algoritmos que estão usando nos procedimentos de contratação ou promoção de funcionários;
- As empresas terão que informar possíveis pontuações usadas pelo algoritmo para classificar candidatos por raça, etnia e gênero;
- A lei local é valida para trabalhadores de Nova York ou pessoas que estejam se candidatando para um emprego na cidade — mesmo que vão trabalhar em outros lugares, em home-office, por exemplo;
- Caso as empresas não disponibilizem sua tecnologia a uma auditoria independente, não terão permissão para usar as ferramentas de IA na contratação;
- Além disso, empresas que não respeitarem a lei pagarão multas de US$375 na primeira violação, US$1.350 na reincidência e US$1.500 a partir da terceira vez;
- Todo dia que uma companhia usar a tecnologia descumprindo a lei representará uma violação separada.
Objetivos da legislação
A lei foi elaborada para combater os vieses dos algoritmos de IA. Um exemplo disso é o mecanismo utilizado pela Amazon, em 2018, para recrutamento. O sistema pontuava os candidatos entre uma a cinco estrelas — como uma classificação de produto — e penalizava candidatas mulheres.
Como relata o TechCrunch, em outros lugares, também foram identificados algoritmos que atribuem pontuações diferentes aos candidatos. Foram penalizadas, por exemplo, pessoas com alguma deficiência que dificultasse o uso do teclado. Outro caso que chama a atenção é o de um algoritmo que penalizava um candidato se entendia que seu nome era mais comum em negros.
Com informações de TechCrunch
Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!
Tags: