O britânico-canadense Geoffrey Hinton e o estadunidense John Hopfield – ganhadores do Prêmio Nobel de Física de 2024 – expressaram preocupações sobre inteligência artificial (IA). Detalhe: a Academia Real das Ciências da Suécia laureou os dois justamente por serem pioneiros da IA. Ou seja, é uma tecnologia que eles ajudaram a criar.
A dupla foi laureada por conta do uso de estatísticas fundamentais de diversas áreas da Física na criação de redes neurais para aprendizado de máquina (termo que você talvez conheça como machine learning).
A pesquisa da dupla sobre redes neurais na década de 1980 pavimentou o caminho para os sistemas atuais de aprendizado profundo (deep learning). Esses que prometem revolucionar a sociedade, mas também geraram temores apocalípticos.
‘Estou preocupado que sistemas mais inteligentes que nós tomem o controle’, diz ganhador de Nobel sobre IA
No caso de Hinton, ele não parece se arrepender dos seus trabalhos. Apenas se preocupa sobre as suas consequências.
“Nas mesmas circunstâncias, eu faria o mesmo novamente. Mas estou preocupado que a consequência geral disso possa ser sistemas mais inteligentes do que nós que eventualmente tomem o controle”, disse a jornalistas após o anúncio do prêmio, segundo a AFP (via TechXplore).
Curiosidades sobre Geoffrey Hinton relevantes para o assunto:
- É reconhecido por suas contribuições que revolucionaram o reconhecimento de fala e classificação de imagens;
- Conhecido como “o padrinho da IA”, chamou a atenção em 2023 ao deixar seu emprego no Google para alertar sobre os “riscos profundos para a sociedade e a humanidade” da tecnologia;
- Quando questionado, também em 2023, se a IA poderia exterminar a humanidade, Hinton respondeu: “Não é inconcebível”.
Leia mais:
- Nobel de Química 2024 vai para trio que usou IA para decifrar proteínas
- Quais são as principais empresas de Inteligência Artificial do mundo
- Marco Legal da Inteligência Artificial: entenda os 5 principais pontos
Hopfield, professor emérito da Universidade de Princeton, ganhou destaque por ter criado a “rede de Hopfield”, também conhecida como memória associativa. Ela pode ser usada para “armazenar e reconstruir imagens e outros tipos de padrões em dados”.
O físico se juntou a Hinton ao pedir uma compreensão mais profunda dos sistemas de IA modernos para evitar que eles saiam do controle. E chamou os avanços recentes na tecnologia de “muito inquietantes”.
O que John Hopfield disse: “Você não sabe se as propriedades coletivas que você começou são realmente as propriedades coletivas com todas as interações presentes”.
- O que ele quis dizer com isso (segundo ele mesmo): “Você não sabe se algo espontâneo, mas indesejado, está escondido nas engrenagens.”
Tags: