O gerador de imagens DALL-E 3 da OpenAI vai ter marcas d’água adicionadas aos metadados de imagens, à medida que mais empresas implementam suporte aos padrões da Coalition for Content Provenance and Authenticity (C2PA), um protocolo de internet que codifica detalhes sobre a procedência de um conteúdo. A Coalizão pela Proveniência e Autenticidade do Conteúdo, em tradução livre, tem como objetivo combater a circulação de imagens falsas na internet.
As informações são do The Verge.
Leia mais:
- Criação de imagem: DALL-E 3 ganha integração com ChatGPT
- OpenAI vai usar banco de imagens do Shutterstock para treinar IA
- ChatGPT e Bard: veja 8 dicas fora do óbvio para usar os modelos de IA
A OpenAI deixa claro que a intenção é que marcas d’água apareçam nas imagens geradas no site ChatGPT e na API do modelo DALL-E 3. Os usuários móveis do DALL-E já perceberão o uso das marcas d’água até 12 de fevereiro. Nelas, está incluído um componente de metadados invisível e um símbolo CR visível, que aparecerá no canto superior esquerdo de cada imagem.
Sites como Content Credentials Verify permitem que qualquer pessoa verifique a origem de um conteúdo de imagem de IA, incluindo de uma plataforma OpenAI. A marca d’água, neste primeiro momento, vai estar presente em imagens estáticas, e ficará fora de vídeos ou textos.
Segundo a OpenAI, a inclusão dos metadados de marca d’água às imagens causam um “efeito insignificante na latência e não afetará a qualidade da geração da imagem”. Contudo, ainda que seja pouco relevante, o tamanho das imagens geradas, em algumas situações, ficará maior.
Mais credibilidade para conteúdos gerados em inteligência artificial
- A verificação se um conteúdo é gerado por IA é uma das bandeiras da administração de Joe Biden na tecnologia.
- A marca d’água, no entanto, não é uma medida totalmente segura para prevenir desinformação.
- Os metadados do C2PA podem “ser facilmente removidos acidental ou intencionalmente”, diz a OpenAI, o que afetaria a legibilidade da marca d’água na imagem.
“Acreditamos que a adoção destes métodos para estabelecer a proveniência e incentivar os utilizadores a reconhecer estes sinais são fundamentais para aumentar a confiabilidade da informação digital”, afirma a OpenAI no seu site.
Tags: