Desde que foi lançado em 2022, o ChatGPT se tornou sucesso mundial. Porém, para Meredith Whittaker, presidente da Signal Foundation, o chatbot fala com confiança sobre temas que não sabe nem do que se trata e que não deveríamos levá-lo tão a sério ao fazer pesquisas online.
A afirmação de Whittaker, executiva à frente do aplicativo de mensagens homônimo que cresceu como alternativa ao WhatsApp, aconteceu durante seu painel “Por que precisamos frear o desenvolvimento da IA” no Web Summit Rio.
Leia mais:
- Signal: como deixar o app de mensagens ainda mais seguro
- Por que os preços de smartphones e tablets são tão altos no Brasil?
- 5 dicas para usar o ChatGPT de maneira mais eficiente
O que disse Whittaker
No evento global de tecnologia, a presidente ainda defendeu a regulamentação da Inteligência Artificial (IA) e a necessidade de proteção dos dados dos usuários.
Ela comparou o ChatGPT a um “tio que aparece nos feriados, bebe álcool e fala com confiança sobre temas que ele não sabe do que se trata”. Whittaker afirmou que, assim como o familiar, o chatbot pode ser engraçado e útil em contextos de lazer, mas que não devemos confiar nele completamente.
Não devemos transformar o chatbot em ferramenta de pesquisa que as pessoas utilizam para se informarem sobre fatos. Por que estamos usando uma besteira como o ChatGPT para coisas sérias?
Meredith Whittaker, no Web Summit Rio
Meredith Whittaker também lembrou que o ChatGPT utiliza grande volume de informações retiradas “dos cantos mais profundos da internet” e, usando eles, “responde conforme o contexto e prevê qual seria a próxima palavra da frase”. Ou seja, o chatbot não tem autoridade nos assuntos e não há garantia que a informação passada seja real.
Além disso, o sistema da ferramenta trabalha com dados de até 2021, não estando atualizado.
IA, regras e regulamentação
- A presidente da Signal Foundation defendeu no painel a regulamentação do setor da IA;
- Para ela, é necessário estratégias para frear a disseminação de informações falsas e impedir a invasão da privacidade dos usuários;
- Segundo Whittaker, as únicas regras em vigor atualmente, na prática, apenas informam os usuários de que eles estão sendo vigiados e têm seus dados coletados;
- Sequer há alternativa ou termo de aceitação para conceder essa permissão;
- Além disso, as grandes empresas, como o Google, a Microsoft e a Amazon, detêm essas ferramentas, têm o poder todo concentrado nelas e não informam o que estão fazendo com esses dados.
Solução à IA
Ela acredita que a única forma de combater essa hegemonia, impedir o crescimento desenfreado da IA e estabelecer regras que regulam o uso é em conjunto. Isso pode vir, por exemplo, em políticas públicas locais que supervisionem as informações compartilhadas na internet com as grandes empresas.
A solução pode estar em se organizar enquanto sociedade. É preciso determinar como as informações estão sendo utilizadas e por quem.
Meredith Whittaker, no Web Summit Rio
Signal Foundation
Ao final do painel, Whittaker foi questionada sobre como o aplicativo de mensagens tem sido lar de supremacistas brancos e grupos de extrema-direita. Um dos motivos para isso é porque a plataforma criptografa as conversas, dando camada extra de segurança e garantindo o anonimato dos usuários.
Ela não respondeu diretamente e apenas reforçou o compromisso da empresa em manter o anonimato, afirmando que “nosso objetivo é preservar a habilidade de nos comunicarmos de forma privada, como era antes da internet”.
Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!
Tags: