O pesquisador Yoshua Bengio alertou sobre os possíveis efeitos “prejudiciais” da intensa corrida para o desenvolvimento de inteligência artificial (IA) mais avançada, destacando riscos como a criação de conteúdo falso e ciberataques.
Durante a apresentação do primeiro Relatório Internacional de Segurança de IA, na Universidade ENS de Paris, Bengio também mencionou a preocupação com uma eventual “perda de controle” dos humanos sobre sistemas de IA, especialmente se estes se motivarem por uma vontade própria de “sobreviver”.
IA ainda não recebe o investimento necessário para ser segura
- Bengio criticou a aceleração da competição, exemplificada pelo modelo de IA DeepSeek, e pediu uma regulamentação internacional mais robusta, argumentando que os investimentos em segurança de IA são insuficientes.
- Ele enfatizou a necessidade de uma intervenção governamental para garantir a segurança da tecnologia.
- Bengio aponta que os Estados Unidos, atualmente líderes no setor, têm falhado em implementar regras eficazes desde que a administração de Donald Trump assumiu.
Leia mais
- DeepSeek: EUA podem banir IA chinesa de dispositivos do governo
- O que é e o que faz um agente de inteligência artificial?
- Gemini 2.0: o que é, como funciona e por que usar a IA do Google
O relatório, elaborado com a colaboração de 100 especialistas internacionais, foi lançado no final de janeiro de 2024 e surgiu a partir de discussões iniciadas em uma cúpula sobre segurança de IA em 2023.
Bengio expressou preocupações sobre o futuro da humanidade diante dos avanços rápidos da IA, alertando para o risco de sua existência ser ameaçada em um período de apenas 10 anos.
Leandro Criscuolo é jornalista formado pela Faculdade Cásper Líbero. Já atuou como copywriter, analista de marketing digital e gestor de redes sociais. Atualmente, escreve para o Olhar Digital.
Ana Figueiredo é editora de tecnologia do Olhar Digital. É formada em Jornalismo pela Universidade Federal de Uberlândia (UFU).
