Desde o lançamento do ChatGPT e os avanços na inteligência artificial, as questões éticas e morais da IA versus o seu potencial ainda são um embate sem solução. Enquanto alguns especialistas defendem que a tecnologia pode nos levar a novos patamares, outros estão preocupados com os rumos das pesquisas. Um novo estudo chegou para aprofundar a discussão: uma pesquisa mostra que seria impossível controlar uma superinteligência artificial.
Leia mais:
- Pesquisadores dizem que será impossível controlar uma IA superinteligente
- Quais os principais tipos de inteligência artificial que existem
- Inteligência artificial: conheça os pontos negativos e perigos da IA
Estudo
- Publicado na revista científica Journal of Artificial Intelligence Research, o estudo assinado por pesquisadores do Instituto Max-Planck, da Alemanha, mostra que uma superinteligência artificial seria impossível de controlar.
- Isso porque ela exigiria um conhecimento que está além do que o ser humano tem hoje.
- Ou seja, se os criadores da tecnologia não puderem prever o que ela pode vir a se tornar, é impossível controlar os seus desdobramentos.
Superinteligência artificial
Uma superinteligência artificial é mais avançado do que a IA generativa que conhecemos hoje. Ela pode replicar a inteligência humana, tem uma memória ainda maior, uma capacidade de processamento de dados mais acelerada e ainda é capaz de tomar decisões por conta própria.
Impossível definir regras
- Segundo o estudo, “uma vez que um sistema de computador está trabalhando em um nível acima do escopo de nossos programadores, não podemos mais estabelecer limites”.
- Assim, não é possível, por exemplo, pedir para que a IA “não machuque humanos”, se não entendermos que tipo de cenário ela criará a partir disso.
- No exemplo dado pelos pesquisadores, se a IA quiser eliminar os humanos e os especialistas criarem um mecanismo para bloqueá-la, é possível que ela bloqueie de volta e siga com o plano.
- Para evitar isso, seria necessário criar uma simulação dessa superinteligência artificial, o que esbarra em outros desafios.
Superinteligência artificial incontrolável não é novidade
Porém, os novos dados sobre a superinteligência artificial não são inteiramente novidade.
Em 1936, o pai da computação, Alan Turing, já havia calculado que é logicamente impossível prever a forma com que programas de IA chegam a conclusões. Ou seja, mesmo que consigamos programá-la, não conseguimos entendê-la.
Com uma superinteligência artificial, o risco é aumentado.
O que fazer?
Com as capacidades da superinteligência artificial, ela estaria sempre um passo adiantada. Se tentarmos impedir que essa tecnologia destrua a humanidade com um programa de bloqueio, ela já saberia como bloqueá-lo de volta.
Assim, pesquisadores defendem que uma solução seria limitar a capacidade das IAs atualmente. Se pudermos contê-las, elas não poderão se desenvolver para fora dos nossos limites.
Com informações de Journal of Artificial Intelligence Research
Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!
Tags: