Uma nova lei envolvendo inteligência artificial passou a valer nesta quarta-feira (5) na cidade de Nova York, nos Estados Unidos. O texto exige que empregadores permitam a fiscalização de contratações feitas usando a tecnologia. O processo será conduzido por auditorias independentes.

Leia mais:

O que você precisa saber

  • A New York City Local Law 144 exige que empregadores que usam algoritmos de IA para recrutar, contratar ou promover funcionários enviem os dados para uma auditoria independente para torná-los públicos;
  • Com a nova lei, as empresas deverão tornar públicos os algoritmos que estão usando nos procedimentos de contratação ou promoção de funcionários;
  • As empresas terão que informar possíveis pontuações usadas pelo algoritmo para classificar candidatos por raça, etnia e gênero;
  • A lei local é valida para trabalhadores de Nova York ou pessoas que estejam se candidatando para um emprego na cidade — mesmo que vão trabalhar em outros lugares, em home-office, por exemplo;
  • Caso as empresas não disponibilizem sua tecnologia a uma auditoria independente, não terão permissão para usar as ferramentas de IA na contratação;
  • Além disso, empresas que não respeitarem a lei pagarão multas de US$375 na primeira violação, US$1.350 na reincidência e US$1.500 a partir da terceira vez;
  • Todo dia que uma companhia usar a tecnologia descumprindo a lei representará uma violação separada.

Objetivos da legislação

A lei foi elaborada para combater os vieses dos algoritmos de IA. Um exemplo disso é o mecanismo utilizado pela Amazon, em 2018, para recrutamento. O sistema pontuava os candidatos entre uma a cinco estrelas — como uma classificação de produto — e penalizava candidatas mulheres.

Como relata o TechCrunch, em outros lugares, também foram identificados algoritmos que atribuem pontuações diferentes aos candidatos. Foram penalizadas, por exemplo, pessoas com alguma deficiência que dificultasse o uso do teclado. Outro caso que chama a atenção é o de um algoritmo que penalizava um candidato se entendia que seu nome era mais comum em negros.

publicidade

Com informações de TechCrunch

Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!