Facebook treinou algoritmo para identificar atiradores após massacre

Por Lucas Soares, editado por André Lucena 29/10/2021 17h29, atualizada em 29/10/2021 22h08
Facebook observado por um hacker
Facebook observado por um hacker (TY Lim/Shutterstock)
Compartilhe esta matéria
Ícone Whatsapp Ícone Whatsapp Ícone X (Tweeter) Ícone Facebook Ícone Linkedin Ícone Telegram Ícone Email

Frances Haugen, ex-funcionária do Facebook, continua divulgando documentos internos da empresa, agora em um novo vazamento chamado “Facebook Papers”. No mais recente, divulgado pelo Gizmodo, foi revelado que a empresa treinou seu algoritmo para identificar atiradores com mais facilidade após o massacre de Christchurch, em 2019, onde mais de 50 pessoas foram mortas em duas mesquitas na Nova Zelândia.

Na ocasião, o terrorista Brenton Tarrant, um australiano de 28 anos, transmitiu o começo do atentado em uma live no Facebook. A transmissão só foi interrompida cerca de 17 minutos após ter sido iniciada. Depois do episódio, cerca de 1,5 milhão de vídeos e fotos com os momentos da live foram apagados.

Leia mais:

Segundo o vazamento, apenas cinco minutos após o inicio da live é que o algoritmo do Facebook detectou o atirador. Isso motivou uma modificação nos sistemas da empresa, que utilizou imagens da polícia para treinar a inteligência artificial.

Facebook treinou algoritmo para identificar atiradores após massacre

O Facebook coletou imagens de bodycam, instaladas em uniformes de polícias, para treinar o algoritmo a encontrar potenciais atiradores. Com a atualização, o massacre poderia ter sido detectado em cerca de 12 segundos.

“Não detectamos proativamente este vídeo como potencialmente violador”, escrevem os autores do aumento, acrescentando que a transmissão ao vivo teve pontuação relativamente baixa no classificador usado pelos algoritmos do Facebook para identificar conteúdo violento graficamente. “Além disso, nenhum usuário relatou este vídeo até que ele estivesse na plataforma por 29 minutos”, acrescentaram, observando que, mesmo depois de retirado, já havia 1,5 milhão de cópias para processar no período de 24 horas.

O Facebook também passou a facilitar o sistema de denúncias contra terrorismo. Antes do atentado, o usuário precisava navegar por várias páginas para conseguir denunciar um conteúdo desse tipo. Agora é possível fazer isso apenas com alguns cliques.

Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!

Lucas Soares
Editor(a)

Lucas Soares é jornalista formado pela Universidade Presbiteriana Mackenzie e atualmente é editor de ciência e espaço do Olhar Digital.

André Lucena
Ex-editor(a)

Pai de três filhos, André Lucena é o Editor-Chefe do Olhar Digital. Formado em Jornalismo e Pós-Graduado em Jornalismo Esportivo e Negócios do Esporte, ele adora jogar futebol nas horas vagas.