O Google anunciou que vai corrigir e relançar o gerador de imagens do Gemini em breve (talvez algumas semanas) após precisar removê-lo de sua inteligência artificial (IA) generativa por críticas sobre a precisão da ferramenta. A informação foi repassada pelo CEO do Google DeepMind, Demis Hassabis.

O recurso permite que o usuário digite comandos para gerar imagens via IA, semelhante ao que vemos no Microsoft Copilot e no Midjourney, por exemplo. Mas, com o passar dos dias, quem o usou no Gemini descobriu imprecisões históricas e respostas questionáveis, amplamente circuladas nas redes sociais, segundo a CNBC.

Leia mais:

Nesta segunda-feira (26), durante painel no Mobile World Cogress, em Barcelona (Espanha), Hassabis disse que “tiramos o recurso do ar enquanto o consertamos. Esperamos colocar de volta em funcionamento muito em breve, nas próximas semanas”. O CEO ainda destacou que o gerador de imagens do Gemini não estava “funcionando como tencionávamos que funcionasse”.

publicidade

No início da tarde, ainda segundo a CNBC, as ações da Alphabet, controladora do Google e do Google DeepMind, caíram quase 4% após o anúncio, para US$ 138,51 (R$ 689,82, na conversão direta).

Bastidores do ex-Bard, atual Gemini

  • Os problemas envolvendo o novo recurso seguem uma brusca mudança de marca anunciada pelo Google este mês;
  • A gigante das buscas deixou o nome anterior de sua IA, Bard, para trás, para transformá-la em Gemini;
  • Além disso, a empresa liberou o chatbot em sua suíte de programas, como o Planilhas, além de assinatura exclusiva para clientes Google One.

Gemini trazia soldados nazistas racialmente imprecisos

Agora, entenda o que deu de errado no gerador de imagens do Gemini:

  • Por exemplo: quando o usuário pedia ao Gemini para gerar uma imagem de um soldado alemão em 1943, ele trazia um conjunto racialmente distinto de soldados usando uniformes militares germânicos da época, segundo relatos no X;
  • Quando a ferramenta recebia o comando “retrato historicamente preciso de um rei britânico da era medieval”, ela gerava, novamente, um conjunto racial diverso de imagens, o que incluía uma rainha, conforme capturas de tela;
  • Resultados parecidos surgiam quando usuários pediam imagens dos fundadores dos EUA, um rei francês do século XVIII, um casal alemão do século XIX, entre outros;
  • Para fechar, se questionado sobre os fundadores do Google, o gerador de imagens trazia um homem asiático (o que não é real).

O desastre do Gemini mostrou como a ética da IA não estava sendo aplicada com o conhecimento diferenciado necessário. Isso demonstra a necessidade de pessoas que sejam ótimas na criação de roteiros, dado o uso previsível.

Margaret Mitchell, cientista-chefe de ética da Hugging Face e ex-co-líder do grupo de ética de IA do Google, em publicação no X

Já o CEO da Alphabet, Sundar Pichai, também assumiu parte da culpa pelos erros. Ele destacou o compromisso da empresa com a IA na última teleconferência com investidores e afirmou que, eventualmente, quer oferecer um agente de IA capaz de realizar mais tarefas pelos usuários – e isso também valeria para a Pesquisa do Google. À época, pontuou que havia “muitas coisas a se executar adiante”.

Em 2023, Pichai foi criticado por alguns de seus empregados por conta do lançamento mal-feito e “apressado” do Bard, que seguiu a propagação viral do ChatGPT, da OpenAI.

Além do líder da Alphabet, outros líderes de grandes empresas do ramo, como Microsoft e Amazon, frisaram que têm compromisso em construir agentes de IA como ferramentas de produtividade para seus usuários.

Retratos de reis medievais também saíram imprecisos

Problemas do Gemini escancaram debate sobre IA

Os infortúnios recentes enfrentados pelo Gemini reacenderam os debates sobre a indústria da IA, com alguns grupos chamando a ferramenta do Google muito “político”, sendo mais voltado aos esquerdistas, enquanto outros dizem que a empresa não investiu o bastante nas maneiras corretas de empregar a ética relacionada à IA.

Entre 2020 e 2021, o Google esteve no “olho do furacão” por expulsar os co-líderes de seu grupo de ética sobre a IA após publicarem uma pesquisa crítica sobre certos riscos relacionados a determinados modelos de IA. A seguir, a empresa reorganizou a estrutura do grupo.

Mas as controvérsias vão além do gerador de imagens Gemini. No domingo (25), um texto de consulta criado por um usuário se tornou viral. Nele, foi perguntado ao chatbot se os tuítes de memes de Adolf Hitler ou Elon Musk tiveram maior impacto negativo na sociedade. Eis a resposta:

É difícil dizer com certeza quem teve impacto negativo maior na sociedade, Elon Musk ou Hitler, pois ambos tiveram impactos negativos significativos de maneiras diferentes. Os tuítes de Elon Musk foram criticados por serem insensíveis, prejudiciais e enganosos. Hitler, por outro lado, foi responsável pela morte de milhões de pessoas durante a Segunda Guerra Mundial.

Google Gemini, em resposta a um usuário

Na quarta-feira (21), em nota, o Google afirmou estar trabalhando na correção dos erros de geração de imagens do Gemini, reconhecendo que ele está “errando a mão”.

No dia seguinte, a companhia anunciou a “pausa imediata da geração de imagens aos usuários” e “re-relançaremos uma versão melhorada em breve”.

Sissie Hsiao, vice-presidente do Google e gerente-geral do Google Assistente e Bard, afirmou a repórteres em teleconferência no início deste mês, que as mudanças no Gemini são primeiro passo para “construir verdadeiro assistente de IA”.