A popularização da inteligência artificial abre diversas novas possibilidades em diferentes setores. Por outro lado, o mau uso destas ferramentas não pode ser descartado, um cenário que preocupa autoridades e empresas do mundo todo.
O mais recente alerta foi feito por uma equipe da Microsoft. De acordo com os responsáveis pelo trabalho, a IA pode ser utilizada para contornar sistemas de segurança e criar toxinas ou patógenos mortais.
IA pode propor novas formas de proteínas
- Os pesquisadores explicam que sistemas de triagem são projetados para impedir o acesso a sequências genéticas que possam ser usadas para criar ameaças à saúde humana.
- No entanto, a equipe da Microsoft descobriu que a inteligência artificial pode ser utilizada para superar estas proteções.
- Segundo eles, algoritmos de IA generativa podem propor novas formas de proteínas, que podem ser usadas tanto para gerar moléculas benéficas quanto prejudiciais.
- As conclusões foram descritas em estudo publicado na revista Science.
Leia mais
- IA falha ao prever risco de suicídio, mostra estudo global
- Microsoft diz que sua IA supera médicos em diagnósticos nos EUA
- O lado obscuro da IA: o perigo invisível dos dados contaminados
Nenhum composto prejudicial foi produzido no experimento
A proteção que a Microsoft atacou é conhecida como software de triagem de biossegurança. Para fabricar uma proteína, os pesquisadores normalmente precisam solicitar uma sequência de DNA correspondente de um fornecedor comercial. Esses fornecedores usam software de triagem para comparar os pedidos recebidos com toxinas ou patógenos conhecidos, evitando usos indevidos.
No entanto, a partir do uso da IA é possível redesenhar as toxinas, alterando sua estrutura de uma forma que o sistema de segurança pode ser superado. Os pesquisadores destacam que o exercício foi totalmente digital e que eles não chegaram a produzir nenhum composto prejudicial.
Antes de publicar os resultados, a equipe da gigante da tecnologia que alertou o governo dos Estados Unidos e os fabricantes de software sobre a questão. Eles dizem que as falhas já foram corrigidas. Apesar disso, as preocupações sobre o uso da tecnologia para criação de armas biológicas acende um sinal de alerta.
Tags: