Imagem: Pedro Spadoni via DALL-E/Olhar Digital
A inteligência artificial (IA) pode se tornar “ameaça em nível de extinção para a espécie humana” se providências rápidas não forem tomadas. É o que alerta um relatório encomendado pelo governo dos Estados Unidos, segundo a CNN. De acordo com o documento, a tecnologia pode estar a caminho de se tornar um risco para a segurança nacional do país.
O relatório, encomendado pelo Departamento de Estado dos EUA (equivalente ao Ministério das Relações Exteriores do Brasil, o Itamaraty), foi elaborado pela Gladstone AI. A empresa entrevistou mais de 200 especialistas, entre eles: executivos de empresas de IA, pesquisadores e oficiais de segurança.
Leia mais:
O Departamento busca avaliar como a IA impacta os interesses nacionais dos EUA. E esclarece que as conclusões do relatório não refletem necessariamente as visões do governo do presidente Joe Biden. Esta iniciativa sublinha a crescente preocupação com os riscos associados ao avanço da IA, mesmo diante de seu potencial benéfico em campos como medicina e ciência.
O CEO da Gladstone AI, Jeremie Harris, destaca a IA como uma tecnologia transformadora, capaz de trazer benefícios significativos, mas também riscos graves, incluindo os de natureza catastrófica. O documento aponta que, além de um certo limiar de capacidade, as ferramentas baseadas em IA poderiam se tornar incontroláveis.
O relatório destaca dois riscos principais da IA: o potencial de ser armada para causar danos irreversíveis e a possibilidade de os desenvolvedores perderem controle sobre esses sistemas, com impactos devastadores para a segurança global. Essas preocupações incluem a possibilidade de uma corrida armamentista de IA e conflitos acidentais em grande escala.
A administração Biden tem tomado medidas significativas para gerenciar os riscos da IA, com uma ordem executiva visando tanto aproveitar seu potencial quanto mitigar perigos. A Casa Branca enfatiza a importância da cooperação internacional e legislação para lidar com essas tecnologias emergentes.
Para enfrentar essas ameaças, o relatório da Gladstone AI recomenda a criação de uma nova agência de IA, implementação de medidas regulatórias emergenciais e limitação do poder computacional para treinamento de modelos de IA. Essas etapas visam prevenir perdas de controle e mitigar riscos à segurança.
As entrevistas realizadas pela Gladstone AI revelaram uma percepção de inadequação das medidas de segurança em IA avançada, apontando para a aceleração do desenvolvimento tecnológico às custas da segurança. O documento também menciona o alerta do pioneiro da IA Geoffrey Hinton sobre o risco de extinção humana pela tecnologia e a necessidade de priorizar a mitigação desses riscos.
Por fim, o relatório discute o potencial de AGI (inteligência geral artificial) – forma de IA com capacidade de aprendizado semelhante ou superior à humana – de introduzir riscos sem precedentes. Ele destaca o desafio de regular e desenvolver salvaguardas para uma tecnologia cuja evolução é incerta, alertando para o risco de aplicações de IA em áreas como ciberataques e manipulação psicológica.
Esta post foi modificado pela última vez em 15 de março de 2024 20:57