Países assinam acordo para tornar IA “segura desde a criação”

Os Estados Unidos, a Grã-Bretanha e mais 16 outros países anunciaram no domingo (26) um novo acordo internacional para manter a inteligência artificial segura desde sua concepção. Segundo informações da Reuters, a ideia é monitorar empresas para que elas desenvolvam sistemas de IA “seguros por design”. 

O que você precisa saber: 

• O documento, que contém 20 páginas, é o primeiro internacional mais detalhado sobre o tema;
• Ao total, 18 países concordaram que empresas precisar desenvolver e aplicar a IA de uma forma que mantenha os clientes e o público protegidos contra utilização indevida;
• Além dos Estados Unidos e da Grã-Bretanha, os 18 países que assinaram as novas diretrizes incluem Alemanha, Itália, República Checa, Estônia, Polônia, Austrália, Chile, Israel, Nigéria e Singapura;
• O acordo não é vinculativo e traz principalmente recomendações gerais, como monitoramento de abusos nos sistemas de IA, proteção de dados contra adulteração e verificação de fornecedores de software;
• Para Jen Easterly, da Agência de Segurança Cibernética e de Infraestruturas dos EUA, o acordo é muito importante, pois mostra que muitos países estão colocando a segurança em primeiro lugar;
• O acordo é o mais recente de uma série de iniciativas entre governos.

Leia mais! 

• Aniversário do ChatGPT: como foi o primeiro ano do chatbot?
• IA pode impulsionar as vendas nas principais datas do varejo a partir de 2024
• Precisamos falar sobre equidade na Inteligência Artificial

Esta é a primeira vez que vimos uma afirmação de que essas capacidades não deveriam ser apenas sobre recursos interessantes e quão rapidamente podemos colocá-los no mercado ou como podemos competir para reduzir custos. [as diretrizes são] um acordo de que a coisa mais importante que precisa ser feita na fase de design é a segurança. 

Jen Easterly, diretora da Agência de Segurança Cibernética e de Infraestruturas dos EUA, à Reuters.

O documento aborda desde questões sobre como evitar que a IA seja usada por hackers até recomendações de segurança, como permitir liberação de modelos apenas após testes de segurança apropriados. O novo acordo não cita, no entanto, temas como a coleta de dados. 

Acordos sobre a IA

Entre os acordos mais recentes relacionados a IA, está a proposta entre Alemanha, França e Itália. Os países assinaram um compromisso sobre como a tecnologia deve ser regulamentada na Europa, o que deve acelerar as negociações em todo o território. Veja detalhes aqui! 

Vale lembrar que a Europa está à frente no que diz respeito a regulamentação da IA, sendo pioneira nas regras que devem consolidar uma Lei da IA no próximo ano. 

Importante destacar também que, reforçando sua meta em ser o precursor da regulamentação da IA, o Reino Unido realizou no início deste mês a primeira cúpula global de segurança da IA. No evento, considerado histórico, a China concordou em trabalhar com os Estados Unidos, União Europeia e diversos outros países para gerenciar coletivamente o risco da tecnologia. Saiba mais aqui!