O ChatGPT vem ganhando os holofotes desde o último mês, ao lançar um novo gerador de imagens como parte de seu modelo 4o. O novo recurso se destaca pela habilidade de inserir texto em imagens de maneira mais precisa.
O uso de IA para criação de deepfakes tem levantado alertas, e dessa vez, uma ação que preocupa é o uso do gerador de imagens para criar recibos falsos de restaurantes.
Quem levantou a questão primeiro foi Deedy Das, um influente investidor e criador de conteúdo, que publicou no X uma foto de um recibo falso de uma churrascaria (real) de São Francisco, que ele afirmou ter sido gerado com o modelo 4o.
Outros conseguiram reproduzir resultados semelhantes, até incluindo manchas de comida ou bebida para aumentar o realismo.
O exemplo mais convincente encontrado pelo TechCrunch veio da França, onde um usuário do LinkedIn compartilhou um recibo amassado gerado por IA de uma rede de restaurantes local.
Leia mais:
- OpenAI adia gerador de imagens do ChatGPT para usuários gratuitos
- Studio Ghibli: entenda a polêmica que (literalmente) derreteu o ChatGPT
- ChatGPT cria Studio Ghibli-verso, mas será que deveria?
O TechCrunch também testou o 4o e conseguiu gerar um recibo falso de um restaurante Applebee’s em São Francisco. No entanto, a tentativa teve falhas evidentes que indicavam que o recibo era falso. O total incluía uma vírgula no lugar de um ponto e a matemática estava errada.
OpenAI se pronuncia sobre a questão
- A facilidade de gerar recibos falsos apresenta enormes riscos de fraude.
- É fácil imaginar como pessoas mal-intencionadas poderiam usar essa tecnologia para criar “reembolsos” de despesas inventadas.
- Taya Christianson, porta-voz da OpenAI, afirmou ao TechCrunch que todas as imagens geradas incluem metadados que identificam o uso do ChatGPT.
- Ela acrescentou que a OpenAI toma medidas contra usuários que violam suas políticas de uso e está “sempre aprendendo” com o feedback e o uso no mundo real.
Quando o TechCrunch questionou por que o ChatGPT permite a criação de recibos falsos em primeiro lugar, e se isso violaria as políticas da OpenAI (que proíbem fraudes), Christianson explicou que o objetivo da OpenAI é oferecer aos usuários liberdade criativa.
Ela mencionou que recibos falsos gerados por IA podem ser usados em contextos não fraudulentos, como para “ensinar sobre educação financeira”, além da criação de arte original e anúncios de produtos.
Tags: