Especialistas temem o aumento da tecnologia de IA para fins militares

Nos primeiros anos da revolução da IA generativa, a competição estava centrada em empresas buscando explorar o potencial comercial da tecnologia. No entanto, agora surge uma nova linha de frente: os militares.

A Scale AI, fundada por Alexandr Wang, recebeu um contrato multimilionário para colaborar com o Departamento de Defesa dos EUA no desenvolvimento do Thunderforge, uma iniciativa para integrar IA ao planejamento operacional militar e à modelagem de simulação.

Wang afirmou que suas soluções de IA transformarão o processo militar e modernizarão a defesa americana. Embora os militares frequentemente busquem estar na vanguarda da tecnologia para obter vantagem sobre adversários, essa direção levanta preocupações, conforme explica um artigo da Fast Company.

Margaret Mitchell, especialista em ética da IA, aponta que o uso crescente de IA fora do controle humano é preocupante. Ela destaca que a tecnologia militar tem sido historicamente um catalisador para inovações destrutivas, prevendo resultados desastrosos devido ao seu uso.

A Scale AI não comentou sobre o contrato, e o Departamento de Defesa também não respondeu.

Leia mais:

• Novo drone militar com laser potente vaporiza tecido humano
• Exército dos EUA recebe drone militar que usa vários tipos de combustível
• Qual é a frota de tanques de guerra do Brasil?

Temores de extinção humana

• David Krueger, professor da Universidade de Montreal, considera o uso de IA militar como uma ameaça existencial, argumentando que a delegação de controle para sistemas autônomos, especialmente em forças armadas, é um risco iminente de destruição.
• Ele acredita que é necessária colaboração internacional para evitar que a IA militar saia do controle e ameace a extinção humana.
• A Scale AI, por sua vez, afirma que o Thunderforge operará sob supervisão humana, e o analista Noah Sylvia sugere que o uso de IA nesse contexto é mais voltado para a funcionalidade empresarial do que para questões controversas.

A Scale AI não é a única empresa a se aliar aos militares dos EUA, com outras companhias, como a Anduril e a Microsoft, também fornecendo suas tecnologias para apoiar operações militares.

Mitchell, da Hugging Face, expressa preocupações sobre a difícil situação atual, pois, mesmo que algumas empresas optem por não fornecer suporte militar, outras provavelmente ocupariam o vazio. Krueger alerta que a coordenação internacional sobre o uso de IA militar deveria ser uma prioridade para todos os países.

Mitchell propõe que, para garantir segurança, sejam implementadas diretrizes rígidas para o uso de IA militar, incluindo limites operacionais, restrições à implantação autônoma de armas, e avanços na análise de dados para prever com maior precisão o comportamento dos sistemas.

Ela também sugere duas abordagens práticas: não implantar tecnologias cujas ações sejam imprevisíveis e evitar deixá-las completamente livres do controle humano.