Conforme o ChatGPT e outras plataformas parecidas se popularizaram, surgiu um problema para editores: a enxurrada crescente de conteúdo gerado por IA (inteligência artificial) que está tão abaixo dos padrões publicáveis que eles o consideram um novo tipo de spam.

Para quem tem pressa:

  • Plataformas de IA generativa trouxeram um problema para editores e a Internet de forma geral: um novo tipo de spam;
  • Esse spam é conteúdo gerado por IA que fica muito abaixo dos padrões humanos de publicação, seja em sites, produtos impressos ou ambos;
  • Entre maio e junho de 2023, o número de sites com notícias falsas geradas por IA saltou de 49 para 277, segundo a empresa NewsGuard;
  • Também tem crescido o número de golpes e clickbaits voltados a dicas para “ficar rico” com ChatGPT.

A IA generativa está alimentando um boom de investimentos. Ela pode responder a perguntas, produzir imagens e até gerar textos com base em instruções simples.

Algumas dessas técnicas prometem aprimorar a análise de dados e eliminar tarefas rotineiras de escrita, assim como a calculadora mudou a matemática.

Leia mais:

publicidade

No entanto, elas também mostram o potencial da IA para gerar spam e espalhá-lo pela Internet.

Spam de IA

Mãos robóticas sobre teclado
(Imagem: Thinkstock)

Quando ela ouviu pela primeira vez sobre o ChatGPT, Jennifer Stevens se perguntou o que isso significaria para a revista de aposentadoria da qual é editora-executiva.

Meses depois, ela descobriu. Isso significa que ela está gastando muito tempo filtrando artigos inúteis.

No início de maio, a empresa de classificação de sites de notícias NewsGuard encontrou 49 sites de notícias falsas que usavam IA para gerar conteúdo.

No final de junho, a contagem havia atingido 277, de acordo com Gordon Crovitz, cofundador da empresa. “Isso está crescendo exponencialmente”, disse.

Os sites parecem ter sido criados para ganhar dinheiro com a rede de publicidade online do Google, disse Crovitz, ex-colunista e editor do The Wall Street Journal.

Perigos

Mãos robóticas segurando jornal para ilustrar a imprensa e inteligência artificial
(Imagem: Freepik)

Os pesquisadores também apontam para o potencial das tecnologias de IA usadas para criar desinformação política e mensagens direcionadas usadas por hackers.

A empresa de segurança cibernética Zscaler diz que é muito cedo para dizer se a IA está sendo usada por criminosos de maneira generalizada.

No entanto, a empresa espera vê-la sendo usada para criar páginas falsas de phishing de alta qualidade, projetadas para induzir as vítimas a fazer downloads de softwares maliciosos ou divulgar online seus nomes de usuário e senhas.

Outro ponto são os golpes e clickbaits relacionados a “como ficar rico” com ChatGPT. No YouTube, por exemplo, essa “corrida atrás do ouro” está a todo vapor.

Dezenas de vídeos que oferecem conselhos sobre como ganhar dinheiro com a tecnologia da OpenAI foram vistos centenas de milhares de vezes. Muitos deles sugerem esquemas questionáveis ​​envolvendo conteúdo indesejado.

Alguns dizem aos espectadores que podem ganhar milhares de dólares por semana, incentivando-os a escrever e-books ou vender publicidade em blogs cheios de conteúdo gerado por IA que podem gerar receita publicitária aparecendo nas pesquisas do Google.

O Google disse em comunicado que trabalha para proteger seus resultados de pesquisa contra spam e manipulação.

A empresa também informou que o uso de conteúdo gerado por IA para manipular classificações de resultados de pesquisa é uma violação das suas políticas de spam.

Com informações do The Wall Street Journal (em inglês)

Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!