Um homem nos EUA passou 10 dias na cadeia devido a uma falha de um sistema de reconhecimento facial. Nijeer Parks, de 33 anos, foi preso após software da ClearView AI identificá-lo como o suspeito de roubar a loja de conveniências de um hotel em Woodbridge, New Jersey.
O caso aconteceu em 2009: a polícia foi chamada após um relato de que um homem havia roubado doces e outros petiscos de uma loja no hotel Hampton Inn. Quando um atendente chamou a polícia o ladrão correu e se trancou em um banheiro.
Quando os policiais chegaram ele apresentou uma carteira de motorista que o identificava como Jamal Owens, um homem de 25 anos do estado do Tennessee. A polícia checou o documento e logo descobriu ser falso, mas ao tentar prender “Jamal” ele fugiu, perdendo um sapato no caminho. O homem entrou em um Dodge Charger preto, pisou fundo e escapou, não sem antes bater na traseira de um carro da polícia.
Como ainda tinham o documento de “Jamal”, a polícia usou software de reconhecimento facial da Clearview AI para procurar a foto do homem em seus bancos de dados. Foi aí que o programa identificou Parks, que já tinha passagem pela polícia e havia cumprido uma pena de seis anos de prisão por venda de drogas. Imediatamente mandados de prisão foram expedidos, acusando-o de uso de documentos falsos, furto e resistência à prisão.
Estudos mostram que reconhecimento facial é até 10 vezes mais propenso a falsos positivos em fotos de pessoas negras do que brancas. Imagem: Shutterstock
Incriminado pelo reconhecimento facial
Mas Parks não tinha nada a ver com o roubo. Ao sair da prisão ele decidiu “se endireitar”, arranjou um emprego como caixa em um supermercado e estava juntando dinheiro para se casar com sua namorada. Ao saber, por sua avó, que a polícia o estava procurando, ele pediu a um primo para levá-lo até a delegacia, esperando resolver o mal-entendido.
Em vez disso, Parks foi levado a uma sala, interrogado, algemado a um banco em um corredor por uma hora, levado a uma segunda sala e trancado lá. Temendo por sua segurança, ele simulou um ataque de asma e foi levado ao pronto-socorro.
Depois, foi levado à cadeia e passou 10 dias em uma cela antes de pagar a fiança. Com o dinheiro que economizou ele contratou um advogado, recusou um acordo com a justiça do Estado que o levaria à cadeia por seis anos e enfrentou o juiz, ciente de que poderia ser condenado a até 20 anos atrás das grades se fosse a julgamento.
O juiz exigiu mais evidências dos procuradores além da correspondência no sistema de reconhecimento facial. Sem ter o que apresentar, eles retiraram as queixas contra Parks, que agora está processando o estado e a polícia alegando uso excessivo da força, violação de direitos civis, prisão por motivo falso e punição cruel.
No processo, o advogado de Parks alega que ele só foi preso e acusado por preconceito racial, já que ele é afro-americano.
Histórico de falhas
Não é a primeira vez que um inocente é preso devido a erros em software de reconhecimento facial. Uma análise feita em 2019 mostra um claro viés nestes sistemas, com tendência muito maior a identificar incorretamente mulheres negras (1 falso positivo em 1 mil) do que brancas (1 em 10 mil).
Em maio de 2019 a cidade de San Francisco foi a primeira a proibir o uso da tecnologia de reconhecimento facial por órgãos públicos. Depois vieram Boston, Sommerville, Oakland e Portland.
Em junho deste ano James Craig, chefe de polícia de Detroit, admitiu que a tecnologia de reconhecimento facial usada pela polícia da cidade, desenvolvida por uma empresa chamada DataWorks Plus, “quase nunca” traz uma correspondência exata com a imagem de um suspeito, e “quase sempre” identifica incorretamente as pessoas, errando em 96% dos casos.
Em julho deste ano, as escolas do estado de Nova York foram proibidas de usar sistemas de reconhecimento facial até 2022. Segundo a diretora adjunta do Centro de Políticas Educacionais, Stephanie Coyle, o uso da tecnologia pode trazer experiências negativas para minorias como negros, mulheres e homossexuais.
Em declaração à União das Liberdades Civis de Nova York (NYCLU), ela explicou que, em um ambiente repleto de jovens, possíveis falhas de identificações podem ocasionar casos desastrosos, como bullying e brincadeiras de mau gosto.
Tags: