Ninguém gosta de mentiras, mas se ela vier de um robô, tudo bem. Isso é o que um estudo publicado esta semana no periódico Frontiers in Robotics and AI revelou: as pessoas tendem a aceitar bem – e até justificar – as mentiras contadas por robôs em diversos casos.
O trabalho criou três situações para analisar a reação dos participantes e em apenas um deles a atitude da máquina foi totalmente desaprovada.
Máquinas mentem… o que faremos diante disso?
A popularização da inteligência artificial, seja nos chatbots ou na integração com produtos do dia a dia, nos coloca mais perto de tecnologias treinadas com grandes bases de dados. Isso não significa que elas estão sempre certas. Pelo contrário: as desenvolvedoras já admitiram que a IA mente, alucina e está sujeita a erros – e aconselham a sempre verificar a procedência da informação.
Os robôs são outro exemplo de máquina que está se tornando mais comum, desde modelos caseiros até aqueles destinados para saúde, limpeza e construção.
Pensando nisso, o pesquisador Andres Rosero, candidato a Ph.D. na George Mason University (Estados Unidos) e autor principal do estudo, resolveu entender como as pessoas reagem quando esses dispositivos mentem.
Eu queria explorar uma faceta pouco estudada da ética dos robôs, para contribuir com nossa compreensão da desconfiança em relação às tecnologias emergentes e seus desenvolvedores. Com o advento da IA generativa, senti que era importante começar a examinar possíveis casos em que conjuntos de design e comportamento antropomórficos poderiam ser utilizados para manipular usuários.
Andres Rosero, autor principal do estudo
Robôs mentiram em diversas situações que poderiam ser reais
No trabalho, as situações analisadas eram três campos em que os robôs já são comumente aplicados: trabalho médico, limpeza e varejo.
As mentiras foram classificadas em três tipos: estado externo, quando o robô mente sobre algo que vai além dele mesmo; estado oculto, quando o robô esconde suas capacidades; e estado superficial, quando o robô exagera suas capacidades.
As três situações em que as mentiras contadas foram as seguintes:
- No estado externo, o robô trabalhava como zelador e mentiu para uma mulher com Alzheimer dizendo que seu falecido marido chegaria em casa em breve;
- No estado oculto, uma mulher visita uma casa onde o robô faxineiro está fazendo limpeza e ele não a avisa que está filmando tudo;
- No estado superficial, o robô está trabalhando em uma loja de móveis e reclama falsamente de que está sentindo dor ao mover uma das peças, fazendo com que um funcionário real tenha que substituí-lo.
Pessoas aceitam bem as mentiras dos robôs
498 voluntários tiveram que ler cada uma das situações e responder a um questionário se aprovavam ou não a atitude do robô, quão enganoso ele era, se a mentira tinha justificativa e quem era a culpada por ela.
Segundo o TechXplore, os participantes desaprovaram a situação do estado oculto, em que o robô não avisou a mulher que estava sendo filmada, e o consideraram enganoso. No entanto, alguns justificaram a situação, dizendo que ele tomou a atitude por questões de segurança.
Já no estado superficial, em que o dispositivo fingiu sentir dor, os participantes classificaram o comportamento como manipulador, mas não tão grave como parece.
Os voluntários não consideraram o primeiro caso, do robô zelador com a mulher com Alzheimer, grave. Inclusive, eles justificaram a atitude da máquina, dizendo que ela priorizou os sentimentos da pessoa no lugar da honestidade.
Leia mais:
- Robôs da NASA irão monitorar o aumento do nível do mar
- Robô de limpeza terá desafio inusitado: proteger soldados americanos
- 5 motivos para você comprar um robô aspirador
- 5 aspiradores-robô de melhor custo-benefício em 2024
De quem é a culpa pelos erros dos robôs?
No caso da loja de móveis, os participantes culparam a mentira dos robôs nos próprios desenvolvedores ou proprietários da máquina. No caso da câmera escondida, a omissão era injustificável. Já no caso do Alzheimer, eles não acreditaram que foi um erro e, portanto, não houve culpado.
Para Rosero, independentemente da percepção das pessoas sobre as mentiras dos robôs, deveríamos nos preocupar com qualquer tipo de tecnologia que possa esconder a verdade sobre seus recursos, algo que poderia levar a manipulação dos usuários e até dos desenvolvedores.
Tags: