Com o crescente avanço da inteligência artificial (IA), é possível que ela possa influenciar nosso comportamento subconsciente de formas que nem se quer imaginar, segundo um estudo espanhol.

O autor, Ignasi Beltran de Heredia, reitor da Faculdade de Direito e Ciência Política da Universitat Oberta de Catalunya, examina os riscos de permitir que a IA acesse e modifique nossa mente sem nosso consentimento ou conhecimento.

Leia mais:

Como a IA seria capaz de manipulação?

A princípio, Beltran menciona o escândalo Cambridge Analytica, que utilizou dados pessoais do Facebook e técnicas de análise de dados para interferir nas eleições dos EUA.

publicidade

O caso, de acordo com ele, é apenas um exemplo de como a IA pode nos manipular subconscientemente, empregando duas estratégias.

A primeira é coletar dados sobre a vida das pessoas e criar uma arquitetura de decisão que leve você a tomar uma determinada decisão. E a outra – que atualmente é menos desenvolvida – envolve o uso de aplicativos ou dispositivos para criar diretamente impulsos que são irresistíveis para o nosso subconsciente mente para gerar respostas impulsivas em nível subliminar, ou seja, para criar impulsos.

Ignasi Beltran de Heredia, reitor da Faculdade de Direito e Ciência Política da Universitat Oberta de Catalunya (UOC)

Tecnologias intrusivas

Do mesmo modo que as máquinas se tornam mais poderosas e nos conectamos mais com elas, as técnicas podem se tornar cada vez mais sofisticadas e invasivas.

Seja como for, o autor afirma que o primeiro campo onde veremos tentativas de influenciar o comportamento humano através da IA será o do trabalho, especialmente na área da saúde ocupacional.

Empresas já utilizam tecnologias intrusivas, como dispositivos que monitoram motoristas de ônibus para detectar sonolência ou sensores que medem as ondas cerebrais para avaliar estresse e atenção.

É difícil prever o futuro, mas, se não restringirmos essas tecnologias intrusivas enquanto ainda estão nos estágios iniciais de desenvolvimento, o cenário mais provável é que continuem melhorando e espalhando seus tentáculos em nome da produtividade.

IA
(Imagem: Freepik)

Limites impostos pela União Europeia

No entanto, há uma discussão atual na União Europeia sobre um novo regulamento de IA visa antecipar os riscos futuros da tecnologia.

De acordo com a proposta, a proibição da IA ​​será aplicada quando houver danos graves e a pessoa acabar fazendo algo que de outra forma não teria feito. provar o que eu teria feito sem o estímulo, e também não posso provar o dano […] Se a publicidade subliminar está agora completamente proibida sem qualificação, por que estamos deixando espaço para o condicionamento subliminar pela inteligência artificial?

Riscos em nosso subconsciente

O autor destaca ainda o risco de deixarmos nosso subconsciente aberto, fala sobre a invasão atual e a necessidade de proteção total, defendendo o isolamento do subconsciente.

Alguns podem pensar que estas preocupações pertencem a um futuro distópico improvável. E, no entanto, não há dúvida de que já estamos a ser invadidos a uma profundidade que era inimaginável há apenas alguns anos e que o público deveria receber a proteção mais completa possível. Nossa mente subconsciente representa nosso eu mais íntimo e deveria ser completamente isolada do acesso externo. Na verdade, nem deveríamos discutir isso.

Por fim, Beltran afirma que a ciência está progredindo, mas ainda não compreendemos completamente como certos estímulos afetam o funcionamento elusivo do cérebro.

Precisamos estar cientes do risco de dar a outras pessoas e empresas acesso ao nosso interior em níveis tão profundos. No contexto da economia de dados, muitas instituições públicas e privadas estão competindo pelo acesso à nossa informação, mas, paradoxalmente, é Foi demonstrado repetidamente que os indivíduos dão pouco valor à sua privacidade.