Uma deepfake é uma tática de manipulação de imagens, vídeos e sons, a qual utiliza mecanismos de Inteligência Artificial para inserir uma pessoa dentro de um contexto ao qual ela não pertence originalmente. Ou seja, é possível inserir o seu rosto no vídeo de uma pessoa que cometeu um crime e foi filmado por uma câmera de vigilância, por exemplo. Desta forma, quem visse o vídeo alterado pensaria que você cometeu o crime, ao invés de perceber que a mídia foi alterada. Confira mais informações a seguir.
Leia mais:
- ChatGPT: 7 coisas que o chatbot poderia fazer (mas não faz)
- Inteligência artificial: conheça os pontos negativos e perigos da IA
- Como usar o PicsArt para remover seu ex de uma foto com Inteligência Artificial
O que são as deepfakes e como se conectam às IAs?
As deepfakes podem ser consideradas como técnicas avançadas de edição automatizada de imagem e podem colocar o rosto de uma pessoa no corpo de outra. Esta edição se torna um vídeo “real”, em que os movimentos corporais e labiais do usuário editado podem ser sincronizados, a fim de transmitir uma mensagem com um propósito específico.
Um grande exemplo é possibilidade de o rosto de um político X ser anexado no corpo de uma pessoa Y, a qual se comporta de maneira preocupante e dissemina discursos contrários a qualquer coisa que a vítima diria normalmente. A edição é feita de maneira completamente automatizada pelas inteligências artificiais, que escaneiam o rosto de uma pessoa e o sincroniza no corpo de outra para criar o vídeo falso.
Essa tática de substituição de rostos não é algo novo, porém, ela costumava ser realizada de forma manual. Agora, inteligências artificiais utilizam mecanismos específicos, como o “Machine Learning”, para auxiliar na troca de rostos de forma automatizada –– o que torna o software algo muito mais preocupante ao cair nas mãos de pessoas ruins.
De início, a técnica costumava ser mais complicada e demandava conhecimentos específicos do usuário para manipular algoritmos e códigos de computador. Contudo, já é possível encontrar sites e aplicativos que fazem o serviço de maneira automática e que apenas requerem, por exemplo, que você envie uma foto de perfil do rosto de alguém. Desde a popularização desses programas, diversos vídeos de conteúdo adulto viralizaram na web, mostrando os rostos de famosos como personagens de mídias pornográficas.
Para além do conteúdo adulto, nomes como Barack Obama e Mark Zuckerberg estão entre os famosos que detém uma lista de vídeos falsos com os seus rostos. Geralmente, os usuários anexam os rostos das celebridades em personagens de filmes e séries, como se as vítimas realmente tivessem participado destas produções.
Além disso, as táticas de deepfake também abrangem a produção de áudios e imagens, que podem simular as características únicas de um indivíduo e colocarem-no em situações constrangedoras, por exemplo. Áudios falsos, por exemplo, são facilmente disseminados por aplicativos mensageiros como o WhatsApp e podem enganar muitas pessoas.
De forma geral, as deepfakes são muito perigosas, pois edições bem desenvolvidas podem falsificar vozes de pessoas reais para fazê-las dizer algo ruim ou criminoso, criar álibis falsos para pessoas sob investigação, falsificar evidências criminais, etc.
Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!
Tags: