Siga o Olhar Digital no Google Discover
Com a profusão de deepfakes, está cada vez mais difícil diferenciar um rosto humano real de um criado por inteligência artificial. Mas um novo estudo mostra que bastam cinco minutos de treinamento para aumentar significativamente essa habilidade – uma descoberta que pode ajudar a combater fraudes e perfis falsos online, comenta o TechXplore.
Pesquisadores das Universidades de Reading, Greenwich, Leeds e Lincoln, no Reino Unido, descobriram que um simples exercício de observação pode ensinar as pessoas a identificar erros sutis em imagens geradas por IA. O experimento foi publicado na revista Royal Society Open Science.
O teste que separa humanos de pixels
O estudo reuniu 664 participantes para um desafio: distinguir rostos reais de falsos criados pelo software StyleGAN3, um dos sistemas mais avançados de geração de imagens por IA.
Sem treinamento, os resultados não impressionaram. Mesmo os chamados “super-reconhecedores” – pessoas com talento acima da média para identificar rostos – acertaram apenas 41% das vezes. Já o grupo com habilidades comuns obteve 31% de acertos, ficando abaixo do nível de adivinhação aleatória (50%).
Após o breve treinamento, porém, o resultado foi outro:
- Super-reconhecedores alcançaram 64% de precisão;
- Participantes típicos chegaram a 51% de acerto;
- O método destacou erros de renderização, como padrões de cabelo incomuns ou números incorretos de dentes;
- O treinamento durou menos de cinco minutos.
Riscos e o papel da IA na segurança digital
Rostos sintéticos estão se tornando mais convincentes do que os humanos reais, o que reforça a necessidade de desenvolver novas formas de identificação, explica o estudo.
Rostos gerados por computador representam riscos reais de segurança. Eles têm sido usados para criar perfis falsos em redes sociais, burlar sistemas de verificação de identidade e falsificar documentos.
Dra. Katie Gray, pesquisadora da Universidade de Reading e principal autora do estudo, em nota.
O desafio dos rostos perfeitos
Os pesquisadores acreditam que os super-reconhecedores não são apenas mais atentos, mas utilizam pistas visuais diferentes para detectar manipulações. Isso explica por que o treinamento funcionou igualmente bem entre todos os grupos.
Leia mais:
- IA contra IA: técnica de envenenamento de dados promete barrar deepfakes
- Olhe de novo: você saberia dizer se essa foto é real ou feita por IA?
- Inteligência artificial gera imagens íntimas falsas de adolescentes nos EUA
O estudo também mostrou que, com o avanço de sistemas como o StyleGAN3, detectar rostos falsos se tornou ainda mais difícil do que em pesquisas anteriores com softwares menos sofisticados. A equipe agora planeja investigar quanto tempo o efeito do treinamento persiste e como ele pode ser combinado com ferramentas automáticas de detecção baseadas em IA.
Se você quer melhorar também a identificação de imagens feitas com IA, o artigo dá algumas orientações. Observe:
- Dentes impossíveis (por exemplo:: três incisivos centrais);
- Cabelo mal renderizado (principalmente na testa, onde começam os fios de cabelo);
- Assimetria anormal;
- Transições estranhas entre a pele do rosto e o cabelo;
- Texturas borradas ou “derretidas”.
Tags: