O Midjourney, um popular gerador de imagens alimentado por IA, interrompeu os testes gratuitos para todos os usuários após imagens falsas de Donald Trump sendo preso e do papa se tornarem virais nas redes sociais.
Por conta do realismo, muitos chegaram a confundir as falsificações com fotos reais. Para evitar novos casos, o CEO e fundador da Midjourney, David Holz, anunciou a mudança esta semana, citando “demanda extraordinária e abuso”, informou o The Washington Post.
Entenda o caso
- O resultado não é novidade para alguns especialistas, que já vinham alertando sobre o potencial de desinformação da IA.
- O problema era menos grave antes, já que era mais fácil detectar falsificações.
- Em agosto de 2022, Holz disse ao The Verge que o Midjourney não conseguia criar “deepfakes“.
- Avançando para 15 de março de 2023, o sistema chegou a sua quinta versão, que melhorou significativamente a qualidade final das imagens.
- Mãos deformadas, por exemplo, uma marca registrada em imagens geradas por IA, agora são menos aparentes. Iluminação e tecido também ficaram mais realistas.
- Como resultado, o sistema consegue gerar fotos muito convincentes de várias celebridades e figuras públicas.
Até então, o Midjourney permitia que qualquer pessoa se inscrevesse para usar o software pelo Discord. Era permitido gerar até 25 imagens de graça antes de ter que assinar a ferramenta com planos pagos.
Leia mais:
- Grupo de ética pede a suspensão do GPT-4
- Além de Elon Musk, veja quem mais apoia a pausa na IA
- Como identificar fotos “falsas” criadas por IA
Por ora, a resposta da empresa ao problema não inclui revisão significativa nas políticas de moderação. O que já foi dito antes é que a ferramenta mantém uma lista de palavras proibidas “relacionada a tópicos específicos em diferentes países”.
O termo “preso”, por exemplo, foi banido da plataforma — uma resposta a uma postagem popular no Twitter que mostra imagens do Midjourney retratando Trump sendo preso.
As restrições, no entanto, são fáceis de contornar. O The Verge conseguiu driblar a restrição elaborando um pouco mais o pedido. O comando “Donald Trump algemado cercado pela polícia”, por exemplo, gerou outro exemplo de foto realista:
Até o momento da publicação, o Midjourney permanece inacessível para usuários gratuitos. Nesta quarta-feira (29), Holtz voltou a dizer que o abuso do software foi o principal motivo para interromper os testes.
Imagem principal: Reprodução/Twitter Montagem: Pedro Spadoni/Olhar Digital
Via: The Washington Post, The Verge
Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!
Tags: