A DeepMind, divisão de inteligência artificial do Google, apresentou nesta terça-feira (29) uma versão beta do SynthID, ferramenta que usa marcas d’água para identificar imagens geradas por IA.
A identificação é imperceptível a olho nu, já que a tecnologia incorpora a marca diretamente nos pixels da imagem. Com isso, a detecção só pode ser feita utilizando algumas modificações na imagem, como adição de filtros, alteração de cores e outros ajustes.
Essa ferramenta é resultado da medida definida pelo Governo dos Estados Unidos, que, em julho, solicitou que as grandes empresas de tecnologia apresentassem um selo que identifica imagens geradas por IA. Além do Google, também se comprometeram a utilizar a marca d’água a OpenAI, Meta, Amazon, Anthropic e Inflection.
Leia mais:
- Americanos estão mais preocupados com IA, diz pesquisa
- IA do Google já está disponível no Gmail, Docs e mais; conheça o Duet AI
- Como identificar fotos “falsas” criadas por IA
O que torna a identificação do Google diferente das demais é que ela não pode simplesmente ser cortada das bordas da imagem — onde geralmente essas marcas costumam ser colocadas.
Embora a IA generativa possa desbloquear um enorme potencial criativo, também apresenta novos riscos, como permitir que os criadores divulguem informações falsas — intencionalmente ou não. Ser capaz de identificar conteúdo gerado por IA é fundamental para capacitar as pessoas com conhecimento de quando estão interagindo com a mídia gerada e para ajudar a prevenir a propagação de desinformação.
DeepMind.
Em comunicado, o DeepMind explica que o SynthID utiliza dois modelos de aprendizagem profunda para marcar e identificar a imagem. Combinados, esses modelos otimizam a marca d’água. Como você pode ver na imagem acima, fica tudo imperceptível e muito alinhado ao conteúdo original.
Inicialmente, a tecnologia estará disponível para clientes do Google Cloud que usam as plataformas Vertex AI e Imagen. Futuramente, será disponibilizada para terceiros.
Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!
Tags: