App é obrigado a excluir fotos de usuários por treinar IA sem permissão

Acusado de usar fotos de usuários sem permissão para desenvolver tecnologias de reconhecimento facial, o finado aplicativo de armazenamento de fotos Ever — agora rebatizado como Paravision AI — chegou a um acordo com a Federal Trade Commission (FTC), dos Estados Unidos, na última segunda-feira (11).

A decisão obriga a empresa Everalbum Inc., dona do app, a excluir todas as fotos e vídeos de usuários que desativaram suas contas, bem como apagar algoritmos de reconhecimento facial desenvolvidos a partir destas mídias.

Todas as “incorporações faciais” — utilizadas para fins de reconhecimento facial — derivadas de fotos sem o consentimento dos usuários também deverão ser deletadas.

Além disso, a empresa passa a ser obrigada a tornar mais clara a maneira como coleta e usa informações de usuários, além de informar como o app protege a privacidade dos mesmos.

Em casos de comercialização do software para uso privado, a empresa precisará do consentimento dos clientes antes de usar qualquer informação biométrica coletada, seja para criar novas incorporações faciais ou mesmo no desenvolvimento de tecnologias de reconhecimento facial.

Problema de longa data

O aplicativo Ever surgiu em 2013 como um serviço de armazenamento em nuvem. Contudo, após os administradores perceberem que o app não despontaria no setor, a ferramenta foi alterada, em 2017, para funcionar como um provedor de tecnologia de reconhecimento facial.

O “grande problema” é que, segundo relatório publicado pela NBC News em 2019, a Ever estava utilizando fotos privadas dos usuários para treinar seu algoritmo de reconhecimento facial antes de a tecnologia ser vendida aos clientes.

Na época, a companhia assegurou nunca ter compartilhado dados pessoais de seus usários, apesar de sua política de privacidade afirmar que “os arquivos podem ser usados ​​para ajudar a melhorar e treinar nossos produtos e essas tecnologias”, sem entrar em muitos detalhes.

Mesmo que seja verdade, a companhia prometeu, posteriormente, que excluiria mídias de contas desativadas. No entanto, a empresa não cumpriu com sua promessa até meados de outubro de 2019, segundo a FTC, culminando no imbróglio (agora resolvido) com o órgão.

Em resposta ao processo, um porta-voz da Paravision AI afirmou que a decisão do FTC reflete uma “mudança que já ocorreu” e que a tecnologia de reconhecimento facial da Paravision não usa nenhum dado de usuários do Ever.

Via: The Verge