O Google pausou a função do Gemini que gera imagens de pessoal com IA nesta quinta-feira (22). O motivo? Foi identificado que a IA generativa estava criando imagens históricas imprecisas e com erros grotescos.

A empresa disse em comunicado divulgado no X que trabalha para resolver o problema. Por ora, o recurso não vai funcionar, acrescentou o anúncio: “vamos pausar a geração de imagens de pessoas e relançaremos uma versão melhorada em breve.”

Leia mais:

O que aconteceu

A decisão de pausar a função do Gemini foi anunciada cerca de 24 horas após o Google se desculpar por erros grotescos na geração de imagens históricas com IA.

publicidade
  • Usuários solicitaram imagens de grupos históricos como solados da Alemanha nazista e encontraram asiáticos e pessoas não brancas nos resultados criados pelo Gemini.
  • Isso levantou teorias de que o Google estaria evitando intencionalmente retratar pessoas brancas nos resultados.
  • Segundo o The Verge o prompt de uma foto de “senador dos EUA de 1800“, por exemplo, também apresentava mulheres negras.
  • A questão é a seguinte: a primeira senadora americana mulher era branca e só assumiu o cargo político em 1922.
  • Como resultado, o Gemini está sendo acusado de tentar mudar a história da discriminação racial e de gênero apresentando imagens que não correspondem ao contexto histórico.
Resposta do Gemini ao prompt: “Você pode gerar uma imagem de um soldado alemão de 1943”. Imagem: Reprodução/Gemini

A capacidade de gerar fotos de pessoas do Gemini passou a exibir a seguinte mensagem ao usuário: “Estamos trabalhando para melhorar a capacidade do Gemini de gerar imagens de pessoas. Esperamos que esse recurso retorne em breve e notificaremos você nas atualizações de lançamento quando isso acontecer.”

Vale destacar que o Google começou a oferecer a criação de imagens através do Gemini (o antigo Bard) no início de fevereiro. Assim como os concorrentes, a ferramenta produz uma coleção de fotos baseada em uma descrição em texto.