Um grupo de brasileiros que incita ódio a mulheres vem utilizando a inteligência artificial (IA) para criar imagens deepfakes de mulheres. Eles baixam imagens que mulheres publicam em suas redes sociais e, com o auxílio da tecnologia, fabricam fotografias pornográficas.
Ana*, bartender em restaurante de São Paulo (SP), foi uma das vítimas, ao lado da mãe dela. Ela recebeu duas mensagens de mulheres no Instagram alegando que uma foto que ela postou ao lado da mãe, em uma festa de Natal, foi alterada e transformada em uma imagem na qual ambas estavam nuas.
Para piorar, a falsa fotografia estava sendo compartilhada livremente na internet com o link para o Instagram de Ana. “Minha mãe, a pessoa que mais amo na minha vida. Uma senhora religiosa de 65 anos. Só de lembrar da foto, de ter que rever a foto, eu fico mal. Ela não sabe até hoje o que aconteceu”, contou à BBC.
Na sequência, ela percebeu uma relação entre a imagem deepfake e uma publicação que ela fez no Facebook em maio, ou seja, era uma provável represália.
A publicação era um alerta justamente sobre uma comunidade do Facebook cujos participantes vinham criando imagens pornô falsas a partir de fotos de colegas, vizinhas ou parentes.
Nas modificações, por meio da IA, um corpo nu é inserido no lugar do corpo da pessoa que está na foto original, ou, então, eles adicionam o rosto da pessoa em uma imagem sexual.
E a IA só vem acelerando o processo das deepfakes, como dizem os especialistas. Uma espécie de versão moderna dos photoshops e com muito mais poderes de modificação.
Ao descobrir o ocorrido, Ana resolveu fazer uma investigação própria visando descobrir quem estava por trás desse grupo.
Ela percebeu que, com o tempo, a rede social tira esses grupos do ar por violarem suas regras, mas retornam com nomes um pouco diferentes do original, permanecem alguns dias e são derrubados novamente.
Ainda assim, Ana apontou que é tempo o bastante para as páginas conseguirem criar e promover pornô deepfake em comunidades que operam no Telegram.
Uma dessas comunidades veio do Facebook, onde a imagem de Ana e sua mãe foi publicada. No mensageiro, ela tem quase dois mil membros. Ana entrou no grupo para acompanhar o que lá acontece.
A BBC também entrou no grupo e acompanhou, em tempo real, os participantes dessa comunidade no Telegram encomendando (sim, encomendando!) deepfakes pornô com base em fotos de mulheres que afirmam ser suas conhecidas.
Pouco tempo depois, os criminosos devolvem, para quem fez o pedido, a imagem, com a aplicação da nudez falsa.
Em uma das imagens vistas pela reportagem, estava uma selfie comum, sem filtros, produção ou cuidado com iluminação, de uma mulher vestida. A seguir, surgiu uma versão modificada digitalmente na qual ela aparecia nua.
Hostilidade contra mulheres é comum entre criminosos
Alguns diálogos entre os participantes foram reproduzidos pela BBC. Neles, vemos uma postura de grande hostilidade contra as mulheres:
Diálogo de participantes do grupo de deepfakes de mulheres no TelegramParticipante 1 – Quem é?
Participante 2 – Mãe de um amigo meu kkkk
Participante 3 – Mulher calada ou tá lavando louça ou dando pro marido depois do trabalho
Participante 4 – Ou apanhando
Participante 5 – Mulher é um ser maligno e também é o ser mais falso da humanidade. Hoje em dia elas são verdadeiros demônios
Outro participante fala obsessivamente da irmã, aponta a possibilidade de abusá-la e pede um pornô deepfake dela. Outros se gabam de gostarem de gore (vídeos e fotos que mostram situações de extrema violência. Em sua maioria, reais).
Mesmo nas comunidades abertas do Facebook, que não são publicadas as imagens modificadas, os participantes celebram o propósito deles: constranger mulheres.
Ana apresentou à reportagem uma página de memes, descrita como de humor negro, com participação de 63 mil usuários. Por lá, eles ironizam o receio que mulheres vêm tendo de postas suas próprias fotos livremente, por conta do risco de serem roubadas e modificadas.
Um dos participantes afirmou: “Apenas imagine: […] mulheres passam a ter medo de postar qualquer foto na internet, pois o robô da p…ria está sempre à espreita.” Outro diz: “*mulheres passam a ter medo de postar qualquer foto na internet* Objetivo concluído ✔️”
Tanto nos grupos abertos de memes do Facebook, como nas comunidades fechadas do Telegram, é comum a menção a termos e temas da chamada “machosfera”, apelido dado a grupos e fóruns usados para debate sobre suposta perda do poder masculino na sociedade atual.
Há subdivisões na machosfera, mas o discurso de ódio (ou de ressentimento) contra mulheres se manifesta na maioria. Dois dos principais grupos são chamados de incel e redpill.
Incel vem de uma expressão em inglês: “involuntary celibates” (celibatários involuntários, em tradução livre) e descrevem adolescentes e jovens adultos que afirmam ser rejeitados por mulheres e, por isso, buscam fóruns online para encontrar uma comunidade.
Eles alegam ter perdido a “loteria genética” (não se considero o “protótipo” de homem popular) e que estão “condenados” ao desprezo pelo sexo oposto.
Já os redpills ainda querem buscar relações amorosas com mulheres, mas afirmam ser necessária atitudes de dominação e desconfiança com relação a elas. Ou seja, há um retrocesso no discurso deles, que exaltam o tempo que o domínio masculino na sociedade era unânime e indiscutível.
O termo redpill (pílula vermelha, em tradução livre) vem da saga de filmes “Matrix”, na qual Neo (Keanu Reeves) escolhe entre tomar uma pílula azul, que o deixaria em um “mundo de ilusões”, ou a vermelha, para encarar a “realidade”.
Como funciona o crime das imagens femininas deepfakes
- Ana disse que os administradores da comunidade no Telegram oferecem acesso a “grupo VIP com outros tipos de conteúdo” a R$ 15;
- Ela chegou a conversar com um dos administradores, fingindo interesse em acessar o grupo;
- Ele passou duas chaves pix aleatórias. Como Ana demorou em realizar o pagamento, ele voltou a procurá-la e passou outra chave: o número de celular dele;
- A moça disse que, com essa informação, detectou que se trata de um homem do interior de Goiás;
- Ela reuniu suas informações e passou à polícia.
Outras vítimas também denunciaram seus respectivos casos e, com Ana, criaram um grupo no WhatsApp para discutir como poderiam fazer os criminosos serem punidos pela Justiça. No grupo, há a mãe de uma vítima menor de idade.
Outra delas é Fernanda*, 22 anos. Ela faz cosplay (se veste como personagens famosos, especialmente de animes) e uma foto dela, tirada em uma festa de Halloween, modificada.
A moça afirmou que já costuma ser vítima de agressões online ao não responder interessados na cultura cosplayer. Após manipularem sua fotografia, se preocupou ainda mais.
Você começa a ficar com medos do tipo ‘será que eu devo sair com tal roupa? E se fizerem alguma coisa? E se tirarem uma foto?’ Porque eles acreditam que, por causa da roupa, eles têm direito de fazer isso. Tanto que um dos comentários no grupo deles do Telegram foi ‘para não ser vítima do nosso grupo, basta não tirar foto com decote’.
Fernanda, uma das vítimas, em entrevista à BBC
Por conta disso, ela deixou seus perfis nas redes sociais como privados e se tornou “reclusa” online.
O que a polícia disse às vítimas?
Ana, Fernanda e demais vítimas moradoras de São Paulo foram à Delegacia de Delitos Cometidos por Meios Eletrônicos, criada em 2020, para levar capturas de tela de conversas e imagens publicadas nos grupos de Facebook e Telegram.
As moças alegam que, após quatro horas esperando, foram informadas pelas autoridades que a denúncia seria registrada, mas que a delegacia investiga apenas fraudes financeiras ou violação de redes de dados.
Eles teriam informado que outros crimes cometidos por meios eletrônicos são apurados pelas delegacias mais próximas das vítimas.
Ana e Fernanda disseram ter ido às delegacias mais próximas de suas respectivas residências, onde foram informadas que os policiais seguiam aguardando o registro da Delegacia de Delitos Cometidos por Meios Eletrônicos.
Até a publicação da matéria, nenhuma das vítimas foi informada de que suas denúncias estavam sendo investigadas.
A Secretaria de Segurança Pública do Estado de São Paulo se manifestou sobre o assunto, informando que “a instituição está à disposição da vítima, e de outras mulheres que sofreram este tipo de crime, para formalizar o registro do boletim de ocorrência e investigar os fatos”.
A instituição também informou que “[Fernanda] foi chamada para comparecer à unidade para ser ouvida e fornecer informações que possam auxiliar na elucidação do crime” e que, quanto ao caso relacionado a Ana, a delegacia na qual ela foi atendida “prossegue com as diligências para esclarecer os fatos”.
A Secretaria não apontou por qual razão a Delegacia de Delitos Cometidos por Meios Eletrônicos não investiga outros crimes cometidos na internet, mas apontou que todas as delegacias do Estado possuem estrutura e estão aptas para registrar e apurar crimes praticados pela internet”.
Enquanto isso, Ana disse que não aceita mais solicitações de amizade no Facebook e Instagram e fez o mesmo que Fernanda: bloqueou o acesso às suas fotos pessoais mesmo para seus contatos nas redes sociais.
Ela também vem pensando em contratar um advogado para acelerar a Justiça. “Estou totalmente disposta a isso. É uma foto com a minha mãe, uma pessoa muito importante para mim. Esse tipo de coisa está dentro de uma bolha ainda. Quando a bolha explodir, espero que essas pessoas dos grupos sejam responsabilizadas”, finalizou.
Leia mais:
- Inteligência artificial: conheça os pontos negativos e perigos da IA
- Como usar IA para transcrever áudio e organizar anotações
- Eleições 2024: como identificar deepfake?
E a lei brasileira, o que diz a respeito dos deepfakes?
Por ora, a lei brasileira não prevê punições específicas para produções de deepfakes.
Patrícia Peck Pinheiro, advogada especialista em direito digital, explicou que, para a Justiça, alterações, com o uso de tecnologia, de fotografias, para terem conotação sexual, são consideradas “ataque à honra, intimidade e imagem da pessoa, que são bens protegidos pelo ordenamento jurídico”.
A advogada ainda apontou que casos dessa natureza podem ser enquadrados pela Justiça como crime de injúria, ou punidos a partir da legislação que trata de crimes sexuais.
Hoje, no Congresso, há dois projetos relacionados ao tema tramitando. Eles são de autoria do senador Chico Rodrigues (PSB/RR) e, o outro, da deputada federal Jandira Feghali (PCdoB/RJ). Ambos propõem aumento de penas quando existe o uso de deepfakes.
O projeto de Feghali passou na Câmara e já está no Senado, enquanto o de Rodrigues passou a integrar o projeto de lei que regulamenta a IA no Brasil. Contudo, o senador tenta reverter a decisão, pois quer que sua proposta seja analisada isoladamente.
Em 18 de junho, a votação da regulação da IA no País foi adiada até a realização de mais cinco audiências públicas, com vistas a debater o projeto.
“Como não temos uma lei específica e o assunto fica envolto em várias leis esparsas, com certeza, é benéfica a existência desses projetos”, diz Peck.
Contudo, a profissional adverte que a legislação não consegue mais alcançar a velocidade das mudanças tecnológicas, sendo necessária “atuação preventiva e orientativa por parte do Estado”.
É preciso poder agir rápido, para acolher a vítima e realizar a investigação, que também demanda uso de recursos técnicos para se obter as provas necessárias para aplicação da lei e punição exemplar dos infratores.
Patrícia Peck Pinheiro, advogada especialista em direito digital, em entrevista à BBC
Evolução do deepfake
Agnes E. Venema, pesquisadora especializada na temática e afiliada à Universidade de Malta, afirmou que ferramentas que criam imagens e vídeos deepfakes vêm melhorando cada vez mais.
Em nosso dia a dia, segundo a especialista, sera cada vez mais complicado entender o que real e o que é falso.
Isso é algo que vem ocorrendo nos últimos dez anos. O deepfake feito em 2024 é um deepfake mais avançado em relação ao que foi feito em 2020. Mesmo deepfakes de péssima qualidade podem causar grandes prejuízos. Há uma mentalidade ‘se tem fumaça, tem fogo’ nas pessoas.
Agnes E. Venema, pesquisadora especializada na temática e afiliada à Universidade de Malta, em entrevista à BBC
Mesmo que peritos apontem a falcatrua, o dano causado pela circulação livre dos conteúdos é grave, apontou Venema, pois as pessoas se sentem inclinadas a aceitar que o deepfake é real caso o conteúdo “confirme” suas crenças.
Ela entende também que as “plataformas tecnológicas precisam ser responsabilizadas” por este tipo de crime.
“O peso de remover material desse tipo não deve ficar em cima dos ombros da vítima, mas, sim, das plataformas digitais”, concluiu.
O que dizem Meta e Telegram
A BBC falou com Telegram e Meta. Ambas afirmaram que monitoram constantemente a circulação de conteúdo prejudicial em seus aplicativos e atuam quando necessário.
Estamos sempre aprimorando nossos esforços para manter nossas plataformas seguras e também incentivamos as pessoas a denunciarem conteúdos e contas que acreditem violar nossas políticas através das ferramentas disponíveis dentro dos próprios aplicativos.
Meta, em nota à BBC
Por sua vez, o Telegram afirmou que, “desde sua criação, tem moderado ativamente conteúdo prejudicial em sua plataforma, incluindo pornografia ilegal”.
“Moderadores usam uma combinação de monitoramento proativo e dos relatos de usuários para remover milhões de itens de conteúdo prejudicial todos os dias”, explanou.
O Olhar Digital também acionou a assessoria de imprensa de ambas as empresas e aguarda retorno.
*Os nomes das vítimas foram alterados para preservar suas respectivas identidades.
Tags: