Gemini: Google restringe consultas sobre eleições no chatbot

O Google anunciou que irá restringir os tipos de consultas relacionadas a eleições que os usuários podem fazer ao seu chatbot Gemini, acrescentando que já implementou as mudanças na Índia, onde os eleitores irão às urnas nesta primavera.

Por precaução sobre um tema tão importante, começamos a implementar restrições aos tipos de consultas relacionadas a eleições para as quais o Gemini fornecerá respostas. Levamos a sério nossa responsabilidade de fornecer informações de alta qualidade para esses tipos de consultas e estamos trabalhando continuamente para melhorar nossas proteções.

Google em postagem de blog

Um porta-voz do Google disse ao CNBC que as mudanças estavam de acordo com a abordagem planejada da empresa para eleições, e que está introduzindo as restrições do Gemini “em preparação para as muitas eleições acontecendo ao redor do mundo em 2024 e por precaução.” O foco do anúncio do Google foi o processo eleitoral na Índia, mas a mudança não deve se restringir ao país asiático.

Leia mais:

• 7 configurações de privacidade do Google para mudar agora mesmo!
• Como criar imagens com o Google Gemini
• Google Gemini: como assinar serviço com inteligência artificial

O Olhar Digital testou o Gemini perguntando a ele sobre as eleições brasileiras de 2024, mas o chatbot não entrou no assunto. “Ainda estou aprendendo a responder a essa pergunta. Enquanto isso, use a Pesquisa Google”, é o que fala o Gemini quando pedido para falar sobre eleições. Para efeito comparativo, também perguntamos sobre o Rock in Rio 2024. Confira:

Gemini e geração de imagens

O anúncio vem após o Google retirar sua ferramenta de geração de imagens de inteligência artificial (IA) no mês passado, após uma série de controvérsias, incluindo imprecisões históricas e respostas polêmicas. A empresa havia introduzido o gerador de imagens no início de fevereiro através do Gemini — a principal suíte de modelos de IA do Google — como parte de uma importante reformulação.

Tiramos o recurso do ar enquanto corrigimos isso. Esperamos ter isso de volta online muito em breve nas próximas semanas, poucas semanas.

Demis Hassabis, CEO do DeepMind do Google, na Mobile World Congress

Ele acrescentou que o produto não estava “funcionando da maneira que pretendíamos”.

Eleições, IA e desinformação

• A notícia também surge enquanto as plataformas de tecnologia se preparam para um grande ano de eleições em todo o mundo que afetam mais de quatro bilhões de pessoas em mais de 40 países.
• O aumento do conteúdo gerado por IA tem levado a sérias preocupações com desinformação relacionada a eleições, com o número de deepfakes gerados aumentando 900% ano após ano, de acordo com dados da empresa de aprendizado de máquina Clarity.
• A desinformação relacionada a eleições tem sido um grande problema desde a campanha presidencial de 2016, quando atores russos buscaram implantar maneiras baratas e fáceis de espalhar conteúdo impreciso em plataformas sociais.
• Legisladores estão ainda mais preocupados com o rápido aumento da IA.
• “Há motivos para séria preocupação sobre como a IA poderia ser usada para enganar eleitores em campanhas”, disse Josh Becker, senador estadual democrata na Califórnia, ao CNBC no mês passado em uma entrevista.
• As tecnologias de detecção e marcação d’água usadas para identificar deepfakes não avançaram rápido o suficiente para acompanhar.
• Mesmo que as plataformas por trás de imagens e vídeos gerados por IA concordem em incorporar marcas d’água invisíveis e certos tipos de metadados, existem maneiras de contornar essas medidas protetoras.