O escritor Yuval Noah Harari (Sapiens: História Breve da Humanidade) faz o seguinte alerta: “nunca invoque poderes que não pode controlar”. Atualmente, esse poder em questão é, para o autor, a inteligência artificial (IA). Poder este que poderia ameaçar a democracia e dividir o mundo, escreve Harari.
Essa discussão aparece em seu novo livro, Nexus: A Brief History of Information Networks (“Nexus: Uma Breve História de Redes de Informação”, em tradução livre). O jornal The Guardian publicou um trecho do novo livro, que será publicado em 10 de setembro.
Novo livro de Yuval Noah Harari alerta sobre poder e natureza alienígena da IA
O Olhar Digital pinçou as principais passagens do trecho publicado pelo jornal. Mas antes, três avisos aos navegantes:
- São as principais passagens relacionadas ao argumento “IA é um poder que não conseguimos controlar”;
- São traduções livres das passagens;
- As passagens estão resumidas e organizadas em temas para facilitar a leitura.
Avisos em histórias
Ao longo da história, muitas tradições acreditavam que uma falha fatal na natureza humana nos tenta a buscar poderes que não sabemos como manejar.
O que as fábulas do Aprendiz de Feiticeiro [de Johann Wolfgang von Goethe] e [do mito grego] de Faetonte nos dizem no século 21? Nós, humanos, obviamente nos recusamos a ouvir seus avisos.
Já desequilibramos o clima da Terra e convocamos bilhões de vassouras encantadas, drones, chatbots e outros espíritos algorítmicos que podem escapar do nosso controle e desencadear uma inundação de consequências.
Como humanos ganham (e usam) poder
O mito de Faetonte e o poema de Goethe falham em fornecer conselhos úteis porque eles interpretam erroneamente a maneira como os humanos ganham poder. Em ambas as fábulas, um humano adquire um poder enorme, mas é corrompido pela arrogância e ganância. A conclusão é que nossa psicologia individual falha nos faz abusar do poder.
O que essa análise superficial não percebe é que o poder humano nunca é resultado de uma iniciativa individual. O poder sempre surge da cooperação entre um grande número de humanos. Portanto, não é nossa psicologia individual que nos faz abusar do poder.
Nossa tendência de convocar poderes que não podemos controlar não vem da psicologia individual, mas da maneira única como nossa espécie coopera em grandes números.
Excesso de informação
Nas últimas gerações, a humanidade experimentou o maior aumento de todos os tempos na quantidade e na velocidade de nossa produção de informação. No entanto, com todas essas informações circulando a velocidades impressionantes, a humanidade está mais próxima do que nunca de se aniquilar.
Ter ainda mais informações tornaria as coisas melhores ou piores? Logo descobriremos. Várias corporações e governos estão competindo para desenvolver a tecnologia de informação mais poderosa da história – a IA.
Leia mais:
- Vídeos tristes de gatos feitos com IA mostram futuro (possível) da internet
- Não caia nestes 5 golpes com IA! Veja como se proteger
- O que é inteligência artificial preditiva? Entenda como funciona a IA que “prevê o futuro”
Inteligência artificial
Alguns empresários de destaque, como o investidor americano Marc Andreessen, acreditam que a IA finalmente resolverá todos os problemas da humanidade.
Outros são mais céticos. Não apenas filósofos e cientistas sociais, mas também muitos especialistas e empresários de destaque, como Yoshua Bengio, Geoffrey Hinton, Sam Altman, Elon Musk e Mustafa Suleyman, alertaram que a IA poderia destruir nossa civilização.
Ao usar termos apocalípticos, especialistas e governos não têm a intenção de conjurar uma imagem de Hollywood de robôs rebeldes correndo pelas ruas e atirando em pessoas. Tal cenário é improvável e serve apenas para distrair as pessoas dos verdadeiros perigos.
A IA é uma ameaça sem precedentes à humanidade porque é a primeira tecnologia na história capaz de tomar decisões e criar novas ideias por si só.
Drones autônomos podem decidir por si mesmos quem matar, e IAs podem criar designs de bombas novos, estratégias militares sem precedentes e IAs melhores.
A IA não é uma ferramenta – é um agente. A maior ameaça da IA é que estamos convocando para a Terra inúmeros novos agentes poderosos que são potencialmente mais inteligentes e imaginativos do que nós, e que não entendemos ou controlamos totalmente.
‘Inteligência alienígena’
Tradicionalmente, o termo “IA” tem sido usado como um acrônimo para inteligência artificial. Mas talvez seja melhor pensar nele como um acrônimo para inteligência alienígena.
Muitas pessoas tentam medir e até definir a IA usando a métrica de “inteligência no nível humano”, e há um debate acalorado sobre quando podemos esperar que a IA alcance isso. Esta métrica é profundamente enganosa. É como definir e avaliar aviões através da métrica de “voo no nível dos pássaros”.
A IA não está progredindo em direção à inteligência humana. Está evoluindo um tipo alienígena de inteligência.
Tags: