O Google lançou um programa de recompensas voltado exclusivamente para bugs em inteligência artificial (IA). A iniciativa, batizada de AI Vulnerability Reward Program (AI VRP), oferece prêmios de até US$ 30 mil (cerca de R$ 170 mil) para pesquisadores que encontrarem falhas em serviços como a Busca do Google e os aplicativos do Gemini e do Workspace (Office da empresa).
A companhia afirma que o objetivo é incentivar especialistas a identificar e relatar brechas capazes de gerar riscos reais à segurança dos usuários, como roubo de dados ou ações maliciosas em contas.
Ao contrário de problemas de conteúdo (como discurso de ódio ou plágio gerado por IA), que continuam a ser tratados via feedback interno, o novo programa mira ataques com impacto direto em privacidade, proteção e integridade das plataformas.
Está aberta a temporada de caça a bugs em IAs do Google
O novo programa amplia a estratégia de caça a bugs da empresa ao criar um canal dedicado para falhas em sistemas de IA.
Por meio dele, o Google busca deixar mais claro o que está em jogo quando se fala em vulnerabilidades em IA ao definir categorias e recompensas proporcionais ao impacto.
A iniciativa também reforça a aposta da companhia em segurança colaborativa, valorizando o trabalho de pesquisadores independentes que ajudam a blindar seus serviços.
Escopo e tipos de falhas
O escopo do AI Vulnerability Reward Program inclui sete categorias principais. A mais crítica delas é a chamada “rogue actions”, quando um ataque modifica o estado da conta ou dos dados de um usuário sem sua permissão, com consequências diretas para a segurança.
Outra frente importante é a de “sensitive data exfiltration”, que abrange tentativas de extrair informações pessoais e sigilosas sem qualquer oportunidade de aprovação pelo dono dos dados.
Há ainda a categoria de “model theft”, voltada a ataques que buscam roubar parâmetros inteiros de modelos proprietários. E a de “context manipulation”, quando um invasor consegue alterar de forma oculta o ambiente de IA de uma vítima.
O programa também cobre casos de phishing, acessos indevidos a recursos pagos e até ataques de negação de serviço entre contas.
Já incidentes relacionados a jailbreaks, injeções de prompt ou problemas de alinhamento dos modelos não entram na lista. Esses devem ser reportados pelos canais internos de feedback e tratados como parte do processo de evolução dos sistemas.
Exemplos de vulnerabilidades
O Google cita alguns exemplos práticos que ajudam a ilustrar o tipo de falha que o novo programa quer combater. Um deles é a possibilidade de inserir um comando malicioso num aparelho da empresa, como o Google Home, para destrancar uma porta sem autorização do usuário.
Outro caso é o de uma vulnerabilidade explorada no Google Calendar, no qual um evento adulterado poderia acionar rotinas automatizadas para abrir persianas e apagar luzes de uma casa.
Esses exemplos mostram como ataques aparentemente sutis — muitas vezes uma simples manipulação de prompt ou de contexto — podem se transformar em brechas sérias, com impacto direto na segurança física ou digital das pessoas.
Produtos ‘topos de linha’ em foco
O AI VRP mira serviços de maior visibilidade da empresa. A Busca do Google, os apps do Gemini (disponíveis para web, Android e iOS) e os aplicativos centrais do Workspace (Gmail, Drive, Meet e Docs) estão no topo da lista, classificados como produtos “topos de linha”.
Serviços de menor prioridade, como o NotebookLM ou o Jules, entram em categorias secundárias, enquanto produtos de terceiros ou projetos de código aberto fora do ecossistema Google não são contemplados.
A lógica é concentrar os esforços dos caçadores de bugs nos ambientes nos quais uma falha pode afetar milhões de pessoas ao mesmo tempo.
Valores das recompensas
As recompensas variam de acordo com a gravidade da falha e o tipo de produto afetado. Uma vulnerabilidade crítica em serviços “topos de linha” pode render US$ 20 mil (cerca de R$ 113 mil) como valor base, por exemplo.
A esse montante podem ser aplicados multiplicadores que levam em conta a qualidade do relatório e a originalidade da descoberta. Eles podem elevar o prêmio máximo para US$ 30 mil (aproximadamente R$ 170 mil).
Já em serviços considerados menos sensíveis, o valor cai, chegando a centenas de dólares em créditos. Desde que abriu espaço para falhas de IA em 2023, o Google distribuiu mais de US$ 430 mil (R$ 2,4 milhões) para pesquisadores.
Leia mais:
- As quatro dicas do Google para você dominar o Nano Banana
- Os cinco melhores recursos do Google Nano Banana para edição de imagem
- Como restaurar fotos antigas usando a IA do Google Gemini
CodeMender e segurança em camadas no Drive
Além do programa de recompensas, o Google apresentou o CodeMender, agente de IA projetado para ajudar na correção de vulnerabilidades de software.
A ferramenta sugere patches de segurança em código aberto, que depois passam por avaliação humana antes de serem aplicados. Segundo a empresa, o CodeMender já contribuiu com 72 correções em projetos públicos.
A estratégia também passa por reforçar a proteção dentro dos serviços mais usados. No Google Drive, a empresa implementa um modelo de IA treinado com milhões de amostras para detectar sinais de ransomware em tempo real.
A tecnologia interrompe a sincronização de arquivos suspeitos e cria uma espécie de “bolha protetora” para evitar que o ataque se espalhe, enquanto orienta o usuário a restaurar documentos corrompidos.
Segundo a Mandiant, subsidiária do Google, invasões desse tipo representam mais de 20% dos incidentes de cibersegurança no mundo, com prejuízos médios acima de US$ 5 milhões (R$ 26 milhões).
Para o Google, unir recompensas externas, agentes de IA e segurança embarcada em seus serviços é a chave para enfrentar ameaças cada vez mais sofisticadas.
(Essa matéria também usou informações do site The Verge.)
Tags: