O Midjourney, um popular gerador de imagens alimentado por IA, interrompeu os testes gratuitos para todos os usuários após imagens falsas de Donald Trump sendo preso e do papa se tornarem virais nas redes sociais.

Por conta do realismo, muitos chegaram a confundir as falsificações com fotos reais. Para evitar novos casos, o CEO e fundador da Midjourney, David Holz, anunciou a mudança esta semana, citando “demanda extraordinária e abuso”, informou o The Washington Post.

Entenda o caso

  • O resultado não é novidade para alguns especialistas, que já vinham alertando sobre o potencial de desinformação da IA.
  • O problema era menos grave antes, já que era mais fácil detectar falsificações. 
  • Em agosto de 2022, Holz disse ao The Verge que o Midjourney não conseguia criar “deepfakes“.
  • Avançando para 15 de março de 2023, o sistema chegou a sua quinta versão, que melhorou significativamente a qualidade final das imagens. 
  • Mãos deformadas, por exemplo, uma marca registrada em imagens geradas por IA, agora são menos aparentes. Iluminação e tecido também ficaram mais realistas. 
  • Como resultado, o sistema consegue gerar fotos muito convincentes de várias celebridades e figuras públicas. 

Até então, o Midjourney permitia que qualquer pessoa se inscrevesse para usar o software pelo Discord. Era permitido gerar até 25 imagens de graça antes de ter que assinar a ferramenta com planos pagos.

publicidade

Leia mais:

Por ora, a resposta da empresa ao problema não inclui revisão significativa nas políticas de moderação. O que já foi dito antes é que a ferramenta mantém uma lista de palavras proibidas “relacionada a tópicos específicos em diferentes países”.

O termo “preso”, por exemplo, foi banido da plataforma — uma resposta a uma postagem popular no Twitter que mostra imagens do Midjourney retratando Trump sendo preso. 

As imagens foram criadas pelo jornalista Eliot Higgins, que acabou sendo banido do serviço.

As restrições, no entanto, são fáceis de contornar. O The Verge conseguiu driblar a restrição elaborando um pouco mais o pedido. O comando “Donald Trump algemado cercado pela polícia”, por exemplo, gerou outro exemplo de foto realista:

Imagem: Reprodução/Will Joel/The Verge

Até o momento da publicação, o Midjourney permanece inacessível para usuários gratuitos. Nesta quarta-feira (29), Holtz voltou a dizer que o abuso do software foi o principal motivo para interromper os testes.

Imagem principal: Reprodução/Twitter Montagem: Pedro Spadoni/Olhar Digital

Via: The Washington Post, The Verge

Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!