Frances Haugen, ex-funcionária do Facebook, continua divulgando documentos internos da empresa, agora em um novo vazamento chamado “Facebook Papers”. No mais recente, divulgado pelo Gizmodo, foi revelado que a empresa treinou seu algoritmo para identificar atiradores com mais facilidade após o massacre de Christchurch, em 2019, onde mais de 50 pessoas foram mortas em duas mesquitas na Nova Zelândia.

Na ocasião, o terrorista Brenton Tarrant, um australiano de 28 anos, transmitiu o começo do atentado em uma live no Facebook. A transmissão só foi interrompida cerca de 17 minutos após ter sido iniciada. Depois do episódio, cerca de 1,5 milhão de vídeos e fotos com os momentos da live foram apagados.

publicidade

Leia mais:

Segundo o vazamento, apenas cinco minutos após o inicio da live é que o algoritmo do Facebook detectou o atirador. Isso motivou uma modificação nos sistemas da empresa, que utilizou imagens da polícia para treinar a inteligência artificial.

Facebook treinou algoritmo para identificar atiradores após massacre

O Facebook coletou imagens de bodycam, instaladas em uniformes de polícias, para treinar o algoritmo a encontrar potenciais atiradores. Com a atualização, o massacre poderia ter sido detectado em cerca de 12 segundos.

“Não detectamos proativamente este vídeo como potencialmente violador”, escrevem os autores do aumento, acrescentando que a transmissão ao vivo teve pontuação relativamente baixa no classificador usado pelos algoritmos do Facebook para identificar conteúdo violento graficamente. “Além disso, nenhum usuário relatou este vídeo até que ele estivesse na plataforma por 29 minutos”, acrescentaram, observando que, mesmo depois de retirado, já havia 1,5 milhão de cópias para processar no período de 24 horas.

O Facebook também passou a facilitar o sistema de denúncias contra terrorismo. Antes do atentado, o usuário precisava navegar por várias páginas para conseguir denunciar um conteúdo desse tipo. Agora é possível fazer isso apenas com alguns cliques.

Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!