Os erros na geração de imagens no Gemini AI, inteligência artificial (IA) do Google, são “completamente inaceitáveis” e ofensivos aos usuários, escreveu o CEO da big tech, Sundar Pichai, num memorando enviado aos funcionários. O documento foi revelado pelo Semafor nesta quarta-feira (28).
Para quem tem pressa:
- O CEO do Google, Sundar Pichai, classificou os erros de geração de imagens pelo Gemini (IA da empresa) como “completamente inaceitáveis” e ofensivos aos usuários em memorando aos funcionários revelado nesta quarta-feira (28);
- O algoritmo do Gemini, programado para promover diversidade, alterou erroneamente a etnia de personagens históricos e figuras públicas, gerando controvérsia ao produzir imagens de soldados nazistas e fundadores dos EUA de diversas etnias, por exemplo;
- O erro serviu de pretexto para que políticos e influenciadores digitais de direita denunciassem o que chamaram de “conspiração politicamente correta” de apagamento de brancos;
- Em resposta aos erros, o Google suspendeu temporariamente a funcionalidade de geração de imagens do Gemini, pediu desculpas e comprometeu-se a ajustes. No memorando, Pichai enfatiza o trabalho contínuo para resolver os problemas de IA. Mas não diz se o Google resolveu o problema.
O algoritmo do Gemini, programado para enfatizar a diversidade étnica e de gênero, mudou a etnia de personagens históricos. Resultado: imagens geradas pela IA de soldados nazistas negros e orientais, por exemplo, pipocaram pela internet.
Além dos soldados nazistas de etnias diversas, o Gemini gerou imagens de fundadores dos Estados Unidos que não eram brancos. A IA também retratou incorretamente as raças dos próprios co-fundadores do Google. O erro serviu de pretexto para que políticos e influenciadores digitais de direita denunciassem o que chamaram de “conspiração politicamente correta” de apagamento de brancos.
Leia mais:
- Ferramentas empresariais do Google passam a contar com o Gemini
- Google Gemini: como assinar serviço com inteligência artificial
- Gemini vs ChatGPT: qual inteligência artificial é melhor?
“Nossa missão de organizar a informação do mundo e torná-la universalmente acessível e útil é sacrossanta”, escreveu Pichai, no memorando (disponível na íntegra no final desta nota). “Esse tem de ser nosso enfoque em todos os produtos, incluindo os de IA”, acrescentou.
Erros do Gemini
Por conta dos erros da IA, o Google anunciou a suspensão do recurso, pediu desculpas por “não atingir o alvo” e anunciou trabalhar para reativar a geração de imagens nas próximas semanas. O memorando foi a primeira vez que o CEO abordou amplamente a controvérsia.
Pichai escreveu que a empresa “tem trabalhado dia e noite” para abordar “respostas problemáticas de texto e imagem no aplicativo Gemini.” Ele não diz que o Google resolveu o problema. “Nenhuma IA é perfeita, especialmente nesta fase emergente do desenvolvimento da indústria, mas sabemos que o padrão é alto para nós e continuaremos insistindo pelo tempo que for necessário.”
Confira abaixo a íntegra do memorando escrito pelo CEO do Google, Sundar Pichai:
“Oi pessoal
Quero abordar as recentes questões com respostas problemáticas de texto e imagem no aplicativo Gemini (anteriormente Bard). Sei que algumas de suas respostas ofenderam nossos usuários e demonstraram viés — para ser claro, isso é completamente inaceitável e erramos.
Nossas equipes têm trabalhado dia e noite para abordar essas questões. Já estamos vendo uma melhoria substancial numa ampla gama de prompts. Nenhuma IA é perfeita, especialmente nesta fase emergente do desenvolvimento da indústria, mas sabemos que o padrão é alto para nós e continuaremos insistindo pelo tempo que for necessário. E vamos revisar o que aconteceu e garantir que corrijamos isso em escala.
Nossa missão de organizar as informações do mundo e torná-las universalmente acessíveis e úteis é sagrada. Sempre procuramos oferecer aos usuários informações úteis, precisas e imparciais em nossos produtos. É por isso que as pessoas confiam neles. Esse tem que ser nosso enfoque para todos os nossos produtos, incluindo nossos produtos de IA emergentes.
Vamos promover um conjunto claro de ações, incluindo mudanças estruturais, diretrizes de produto atualizadas, processos de lançamento aprimorados, avaliações robustas e red-teaming, e recomendações técnicas. Estamos analisando tudo isso e faremos as mudanças necessárias.
Mesmo enquanto aprendemos com o que deu errado aqui, também devemos construir sobre os anúncios de produto e técnicos que fizemos em IA nas últimas semanas. Isso inclui alguns avanços fundamentais em nossos modelos subjacentes, por exemplo, nossa descoberta de janela de contexto longo de um milhão e nossos modelos abertos, ambos bem recebidos.
Sabemos o que é necessário para criar produtos excelentes que são usados e amados por bilhões de pessoas e empresas, e com nossa infraestrutura e expertise em pesquisa, temos uma incrível plataforma de lançamento para a onda de IA. Vamos nos concentrar no que mais importa: construir produtos úteis que mereçam a confiança de nossos usuários.“
Tags: