Postar suas fotos nas redes sociais é algo muito comum atualmente, mas talvez fosse interessante repensarmos estes hábitos. Atualmente, é possível treinar inteligências artificiais para fazer montagens perfeitas com suas fotos em diversas situações, algumas podendo ser até ilegais e embaraçosas. São pequenas as chances disso acontecer, mas é importante saber da possibilidade.
As fotografias sempre estiveram sujeitas a edições, mas antes era preciso ter (alguma) habilidade para ficar algo real. Depois que a inteligência artificial aprende a renderizar alguém, sua imagem se torna literalmente um brinquedo do software, além de seus modelos poderem ser compartilhados, fazendo com que outras pessoas tenham acesso e criem outras imagens usado o seu rosto.
Leia mais:
- Gêmeos digitais vão revolucionar os testes clínicos
- Além dos charutos: Gangue cubana lucrou mais de US$ 60 milhões com ransomware em 2022
- Mapa mostra que a emissão de poluentes é diferente do imaginado
O site Ars Technica criou o John, uma pessoa simulada para mostrar como esta tecnologia funciona. Juntando fotos de um suposto perfil nas redes sociais, é possível criar diversas realidade em que o John nunca esteve presente.
Nas fotos acima está John, que não é uma pessoa real. Foi usado um gerador de imagens de IA chamado Stable Diffusion (versão 1.5) e uma técnica chamada Dreambooth para ensinar a IA a criar imagens de John em qualquer estilo.
Embora ele não seja real, alguém poderia reproduzir resultados semelhantes com cinco ou mais imagens de qualquer pessoa. Eles podem ser retirados de uma conta de mídia social ou até mesmo capturados como quadros estáticos de um vídeo.
Ele é casado, e essa não é a esposa dele. Reprodução: Ars Technica
As imagens sintetizadas não são perfeitas. Se você olhar com cuidado, uma pessoa experiente pode identificá-las como falsificações. Mas a tecnologia que cria essas imagens tem progredido rapidamente, e em breve pode ser praticamente impossível dizer a diferença entre uma foto sintetizada e uma real.
No entanto, mesmo com suas deficiências, qualquer uma dessas imagens falsas pode plantar dúvidas devastadoras sobre John ou potencialmente arruinar sua reputação. Segundo estimativas, mais de 4 bilhões de pessoas usam mídias sociais em todo o mundo. Se algum deles tiver carregado um punhado de fotos públicas online, estará suscetível a esse tipo de ataque de uma pessoa suficientemente motivada.
Se isso vai realmente acontecer ou não pode variar muito de pessoa para pessoa, mas todos devem saber que isso é possível a partir de agora.
Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!
Tags: