2020 foi o ano em que o Google passou a cobrar que seus cientistas deem um tom positivo às tecnologias que a companhia desenvolve. Por isso, passou a controlar mais de perto o material escrito pelos profissionais e criou um processo de revisão de “tópicos sensíveis” em conteúdos escritos pelos especialistas. Três colaboradores da companhia disseram à Reuters que a nova política vigora desde junho.
Comunicados internos e entrevistas com os pesquisadores demonstram que, em pelo menos três ocasiões, a empresa pediu que os especialistas mudassem o enfoque dos documentos. Os novos procedimentos pedem que os profissionais consultem as equipes jurídica, de políticas e de relações públicas antes de se dedicarem a determinados tópicos. Entre eles estão análise facial e de sentimentos, e categorizações de raça, gênero ou conexão política.
O motivo é que os avanços tecnológicos e o aumento da complexidade do ambiente externo têm levado a situações em que projetos aparentemente inofensivos acabam em discussões éticas, regulatórias, legais e relacionadas a reputação. Em seu website, o Google diz que os cientistas da empresa têm bastante liberdade. A cientista sênior Margaret Mitchell avalia que, se os profissionais estão fazendo pesquisas dentro de sua especialidade, mas não podem publicar os resultados, isso é censura.
As tensões entre a equipe e a empresa se tornaram públicas este mês, depois da saída da cientista Timnit Gebru da companhia. Ao lado de Margaret, ela era responsável por 12 pessoas que trabalham em projetos com enfoque em ética em software de inteligência artificial. Timnit diz que o Google a dispensou depois que ela questionou uma ordem de não publicar pesquisas que argumentam que inteligência artificial que imita a fala pode colocar populações marginalizadas em desvantagem. A companhia alega que foi ela quem pediu para deixar a empresa.
Uma nota de Jeff Dean, o vice president sênior do Google, informa que o conteúdo produzido por Timnit insistia nos potenciais danos da tecnologia, mas não discutia formas já em andamento de lidar com eles. Dean explica, ainda, que a companhia “tem buscado melhorar os processos de revisão de conteúdo, porque sabe que muitas verificações podem ser incômodas”.
Tags: