Nem a inteligência artificial é de ferro. Pelo contrário, a tecnologia também tem falhas e vulnerabilidades que, se caírem nas mãos erradas, podem ser exploradas por cibercriminosos, por exemplo. O Google quer prevenir que sua IA seja uma delas e oferecerá recompensa financeira para hackers éticos que encontrarem e reportarem brechas de segurança.
Leia mais:
- Google vai te ajudar a encontrar origem e contexto real de uma imagem
- WebChatGPT: o que é e como funciona a extensão que permite pesquisas web
- Julgamento do Google: os argumentos do governo dos EUA
Falhas na IA do Google
- A preocupação sobre o uso indevido da IA é crescente, principalmente entre as desenvolvedoras da tecnologia. O Google é uma delas e anunciou a ampliação do Programa de Recompensas de Vulnerabilidade para incluir falhas na IA.
- O programa vai pagar “hackers éticos” (que encontram vulnerabilidades e as reportam às plataformas) que descobrirem brechas que podem ser aproveitadas para fins maliciosos ou criminosos.
- Conforme a própria empresa, foram mais de US$ 12 milhões em recompensas em 2022.
- A extensão do programa para contemplar a IA aconteceu após um time interno de hackers do Google descobrir pontos de baixa segurança na tecnologia, que permitiriam a inserção de comandos para modificar o comportamento do modelo de linguagem e o forçar a produzir conteúdos ofensivos e vazar informações.
- Outro risco é o de um ataque que replica o treinamento da IA para extrair informações pessoais, como senhas e dados bancários.
Recompensa financeira
Se você for um desses hackers e encontrar algo errado em algum produto de IA do Google, pode receber de US$ 5 mil até US$ 31 mil (mais de R$ 155 mil na cotação atual). Valores menores são para falhas de baixa prioridade em aplicativos, já o montante superior vale para casos de erros mais graves.
A empresa informou que não vai pagar por bugs envolvendo direitos autorais ou extração de dados públicos.
Tags: