Não existem marcas d’água de IA confiáveis, dizem pesquisadores

Tudo sobre Inteligência Artificial

As marcas d’água são uma forma de identificar produções autorais e se tornaram ainda mais necessárias com a popularidade das inteligências artificiais generativas, capazes de gerar imagens realistas a partir de um simples prompt (comando).

Midjourney, Dall-E e Stable Diffusion são alguns exemplos de tecnologias com capacidades de criar imagens realistas que podem enganar olhares desatentos se passando por fotos reais.

Além das principais IAs generativa de imagens, muitas empresas têm inserido sistemas próprios ou de terceiros em suas ferramentas para não deixarem de lado a tecnologia do momento. Exemplo disso são bancos de imagens Getty Images e Shutterstock e os editores de imagens Canva e Photoshop.

Apesar de facilitar o aspecto criativo, essa tecnologia representa uma ameaça quando utilizada por mãos erradas. Criação de deepfakes, desinformação e até mesmo golpes são as principais preocupações atualmente. A partir disso, fica visível a importância das marcas d’água que sinalizam conteúdos gerados por IA.

Mas será que as marcas d’água são completamente seguras? Esse questionamento motivou pesquisadores de ciência da computação da Universidade de Maryland (UMD) a examinarem as capacidades de pessoas mal-intencionadas em remover ou modificar marcas d’água.

Leia mais:

Segundo o estudo, ainda não existe aplicativo de marca d’água 100% confiável até o momento, como explicou Soheil Feizi, professor da UMD em entrevista ao Wired.

“Não temos nenhuma marca d’água confiável neste momento. Nós quebramos todos eles.”, disse o professor.

A análise observou como seria fácil remover marcas d’água, o que os pesquisadores chamam de “lavar”. Além de retirar, o estudo também verificou a facilidade de adicionar marcas em imagens feitas por humanos. Em ambos os cenários, ficou evidente como essa tecnologia ainda tem muito a melhorar para garantir a autenticidade dos conteúdos.

Esse não é o único estudo que analisou a fragilidade das marcas d’água. Em agosto, pesquisadores da Universidade da Califórnia, Santa Bárbara e Carnegie Mellon escreveram um artigo com uma conclusão semelhante: “Todas as marcas d’águas invisíveis são vulneráveis”.

Nesse artigo, os pesquisadores determinaram que as marcas d’água podem ser removidas a partir de dois métodos: destrutivos e construtivos.

Como descreve o Engadget, nos ataques destrutivos, os malfeitores podem manipular a marca como se ela fosse parte da imagem, ajustando o brilho, contraste, giro e mais. Enquanto nos ataques construtivos, a técnica é mais sofisticada e utiliza o desfoque para remover a marca.

Tendo em vista a fragilidade presente nos sistemas de marca d’água, os pesquisadores acreditam que essa não é a única forma de autenticar imagens e demais conteúdos gerados por IA.

É importante compreender que ninguém pensa que a marca d’água por si só será suficiente. Mas acredito que uma marca d’água robusta seja parte da solução.
Hany Farid, professor da Escola de Informação da UC Berkeley.

Google lança ferramenta para identificar imagens geradas por IA

Em agosto, a DeepMind, divisão de inteligência artificial do Google, apresentou uma versão beta do SynthID, ferramenta que usa marcas d’água para identificar imagens geradas por IA;
A identificação é imperceptível a olho nu, já que a tecnologia incorpora a marca diretamente nos pixels da imagem;
O que torna a identificação do Google diferente das demais é que ela não pode simplesmente ser cortada das bordas da imagem — onde geralmente essas marcas costumam ser colocadas;
Com isso, a detecção só pode ser feita utilizando algumas modificações na imagem, como adição de filtros, alteração de cores e outros ajustes.