Uma mulher de Chalfont, no estado norte-americano da Pennsylvania, foi presa acusada de criar “deepfakes” para prejudicar rivais da filha na equipe de animadoras de torcida (cheerleaders) da escola.
Raffaela Spone, de 50 anos, criava imagens falsas das jovens nuas, fumando ou bebendo, e as encaminhava para os responsáveis pela equipe na tentativa de fazer com que fossem expulsas. Também mandava as imagens para as próprias vítimas, encorajando-as a se matar.
A primeira denúncia chegou à polícia em julho, quando uma das vítimas recebeu mensagens de um número anônimo. Usando mandados de busca, os policiais rastrearam os números e chegaram a um site de ferramentas de telemarketing que entregou o endereço IP do remetente, que os levou à Spone.
Leia mais:
- Criador de deepfakes com Tom Cruise diz que tecnologia de falsificação ainda engatinha
- Bot do Telegram usa deepfake para criar mais de 100 mil falsos nudes de mulheres
- Sistema procura por batimentos cardíacos para identificar deepfakes
Uma busca no smartphone da mulher encontrou evidências dos crimes. Ela está enfrentando três acusações de assédio e três de assédio cibernético contra menor. A filha de Spone não está sendo investigada, já que a polícia acredita que ela não sabia das ações da mãe.
George Ratel, pai de uma das vítimas, acredita que Spone começou o assédio moral depois que ele e sua esposa pediram à sua filha para parar de se relacionar com a garota, devido à preocupação quanto ao comportamento dela. “Não sei o que poderia ter levado ela a esse ponto”, disse Ratel.
Deepfakes cada vez mais acessíveis
No início do ano passado estudantes do University College London (UCL) realizaram um estudo sobre as implicações de deepfakes na segurança online. Os resultados causaram preocupações.
Atualmente, existem softwares para a criação de deepfakes que são open-source e gratuitos, e os requisitos de poder de processamento são cada vez menores, o que torna a tecnologia mais acessível. Sites como Reddit, TikTok e Twitter tem banido conteúdo deepfake citando medidas de proteção à informação.
O objetivo dos estudantes da UCL era explorar a estrutura de deepfakes e avaliar a acessibilidade de criação. A conclusão preocupou os pesquisadores: os resultados foram aceitáveis mesmo quando a imagem e movimento do “alvo” não combinavam exatamente com os dados de origem.
Segundo os estudantes, uma regulamentação para evitar os perigos no uso de deep fakes será necessária no futuro para evitar ‘grandes estragos’.
Fonte: Penn Live
Tags: