Especialistas alertam que apenas a própria inteligência artificial (IA) será capaz de conter a proliferação de deepfakes — vídeos hiper-realistas manipulados por algoritmos.
Segundo a Organização Mundial da Propriedade Intelectual (OMPI), essas falsificações utilizam IA para sobrepor rostos, vozes e gestos, criando conteúdos que parecem autênticos, mas são completamente fabricados.
Deepfakes estão ficando mais comuns
- Em 2024, um novo deepfake foi criado a cada cinco minutos, conforme estima o think tank Entrust, um instituto de cibersegurança.
- Políticos como Marco Rubio e Guido Crosetto, além de figuras como Taylor Swift e Joe Rogan, foram vítimas recentes desse tipo de golpe.
- Os riscos são sérios: desde fraudes e roubos de dados até tentativas de manipular decisões políticas, como ocorreu quando a voz de Joe Biden foi clonada para desincentivar o voto em eleições locais.
A União Europeia prevê que 8 milhões de deepfakes serão compartilhados no bloco em 2024 — um salto significativo em relação aos 500 mil registrados em 2023. As informações são do EuroNews.
Leia mais:
- Espanha propõe criminalizar deepfakes sexuais não consensuais com IA
- Seu Direito Digital: fim das deepfakes?
- Real ou deepfake? Veja como identificar se uma imagem foi gerada por IA
IA que distingue conteúdo falso
Para conter a ameaça, pesquisadores têm treinado IAs para reconhecer sinais sutis que distinguem conteúdo falso do real.
Métodos incluem a análise de padrões visuais e vocais. Um sistema da empresa Pindrop, por exemplo, consegue identificar clonagens de voz em tempo real com base em milhões de pontos de dados.
A partir de 1º de agosto, a Lei de IA da UE exigirá que todo conteúdo gerado por IA, incluindo deepfakes, seja rotulado. Para os especialistas, essa transparência é essencial para manter a confiança na mídia digital.
Tags: