Como uma tentativa de evitar a desinformação e deepfakes nas redes sociais, o Facebook focou em estudar uma maneira de descobrir se as imagens falsas tem a origem da mesma fonte, através de uma pesquisa para ajudar a plataforma mídia social a reprimir as campanhas de desinformação.
Deepfakes usam da inteligência artificial para gerar imagens de pessoas ou objetos que não existem. A tecnologia é aperfeiçoada ao longo dos anos. e pode ser usada para fazer vídeos que imitam políticos, celebridades ou outras personalidades públicas fazendo ou dizendo algo que não acontecem de verdade
À medida que a tecnologia deepfake melhora, as empresas de tecnologia – como o Facebook – precisam e estão se preparando para a possibilidade de que o conteúdo falso seja usado para espalhar ainda mais desinformação.
Junto com Michigan State University, o Facebook tem pesquisado um método de engenharia reversa no qual os pesquisadores usam uma única imagem de inteligência artificial para aprender mais sobre como o conteúdo falso foi criado. O método ajuda a determinar se veio da mesma fonte, por mais que tenha sido compartilhado em diferentes plataformas online.
“Esta capacidade de detectar quais deepfakes foram gerados a partir do mesmo modelo de IA pode ser útil para descobrir instâncias de desinformação coordenada ou outros ataques maliciosos lançados usando deepfakes”, explicou o Facebook em um blog.
Além disso, a rede social disse que os pesquisadores examinaram as “impressões digitais do dispositivo”, ou o padrão único deixado pelo modelo usado para criar o deepfake, para tentar descobrir de onde veio a imagem. Agora, estão examinando mais de perto os componentes do modelo de inteligência artificial.
“Nossa técnica de engenharia reversa é mais ou menos como reconhecer os componentes de um carro com base em como ele soa, mesmo que seja um carro novo do qual nunca ouvimos falar antes”, pontuou o Facebook.
Leia mais:
- ‘Awake’ e ‘Stranger Things’ lideram os mais vistos no streaming do Brasil
- Lisa Banes, atriz de ‘Garota Exemplar’, morre aos 65 anos após ser atropelada por moto
- Cena de sexo oral entre Batman e Mulher-Gato foi censurada em ‘Harley Quinn’
Assim, os pesquisadores da Michigan State University reuniram um conjunto de dados com 100 mil imagens falsas geradas a partir de 100 modelos generativos disponíveis para testar o método de engenharia reversa. Neste momento, a universidade está abrindo o código-fonte do conjunto de dados, código e modelos treinados para que outros pesquisadores tenham mais ferramentas para estudar a detecção e a origem de deepfakes.
Fonte: Cnet
Já assistiu aos nossos novos vídeos no YouTube? Inscreva-se no nosso canal!
Tags: