​Já havíamos noticiado por aqui na semana passada a respeito do conteúdo pornográfico criado por IA que usava a imagem de Taylor Swift. Agora, segundo informações do jornal The New York Times, o conteúdo obsceno e falso foi rastreado, e os atos criminosos teriam se originado em um fórum, o popular 4chan.

Leia mais:

A Graphika, uma empresa de pesquisa que se especializa em estudar ações que propagam desinformação, rastreou as imagens até uma comunidade no 4chan, um quadro de mensagens conhecido por compartilhar discursos de ódio, teorias da conspiração e, cada vez mais, conteúdo racista e ofensivo criado com ajuda de inteligência artificial.

Tudo não passou de um jogo para os criminosos virtuais

  • Usuários do 4chan responsáveis por criar as imagens falsas da cantora fizeram isso em uma espécie de jogo, disseram os pesquisadores.
  • Eles queriam se desafiar para ver se conseguiam criar imagens obscenas (e às vezes violentas) de figuras femininas famosas.
  • As imagens artificiais da cantora saíram do 4chan, se espalharam por diversas plataformas e foram visualizadas milhões de vezes.
  • Houve mobilização dos fãs para defender a cantora destes ataques, e os legisladores exigiram proteções mais fortes contra imagens criadas por IA.

A Graphika ainda encontrou um tópico de mensagens no 4chan que incentivava as pessoas a tentar burlar as proteções estabelecidas por ferramentas geradoras de imagens, incluindo DALL-E da OpenAI, Microsoft Designer e Bing Image Creator.

publicidade

As instruções para os usuários usarem essas tecnologias na criação de conteúdo obsceno diziam para compartilhar “dicas e truques para encontrar novas maneiras de contornar filtros” e ainda havia mensagens de incentivo, tais como: “Boa sorte, seja criativo”.

Taylor Swift não foi a única vítima

Em comunicado, a Graphika anunciou por meio de uma suas analistas sênior, Cristina López, que a cantora pop não foi a única que teve imagens obscenas geradas. Nessa mesma comunidade do 4chan onde a prática se iniciou, outras cantoras, atrizes e figuras políticas teriam aparecido até com mais frequência que Swift no conteúdo impróprio.

“É importante compreender a natureza gamificada desta atividade maliciosa para evitar mais abusos na fonte”, completou Cristina López, durante o comunicado.

Por alguns dias, o Twitter/X bloqueou pesquisas pelo nome de Taylor Swift. “Fizemos tudo com muita cautela, para conseguir ter certeza de que estávamos limpando e removendo todas as imagens maliciosas”, disse Joe Benarroch, chefe de operações comerciais da empresa.