Desde que foi lançado em 2022, o ChatGPT se tornou sucesso mundial. Porém, para Meredith Whittaker, presidente da Signal Foundation, o chatbot fala com confiança sobre temas que não sabe nem do que se trata e que não deveríamos levá-lo tão a sério ao fazer pesquisas online.

A afirmação de Whittaker, executiva à frente do aplicativo de mensagens homônimo que cresceu como alternativa ao WhatsApp, aconteceu durante seu painel “Por que precisamos frear o desenvolvimento da IA” no Web Summit Rio.

Leia mais:

O que disse Whittaker

No evento global de tecnologia, a presidente ainda defendeu a regulamentação da Inteligência Artificial (IA) e a necessidade de proteção dos dados dos usuários.

publicidade

Ela comparou o ChatGPT a um “tio que aparece nos feriados, bebe álcool e fala com confiança sobre temas que ele não sabe do que se trata”. Whittaker afirmou que, assim como o familiar, o chatbot pode ser engraçado e útil em contextos de lazer, mas que não devemos confiar nele completamente.

Não devemos transformar o chatbot em ferramenta de pesquisa que as pessoas utilizam para se informarem sobre fatos. Por que estamos usando uma besteira como o ChatGPT para coisas sérias?

Meredith Whittaker, no Web Summit Rio

Meredith Whittaker também lembrou que o ChatGPT utiliza grande volume de informações retiradas “dos cantos mais profundos da internet” e, usando eles, “responde conforme o contexto e prevê qual seria a próxima palavra da frase”. Ou seja, o chatbot não tem autoridade nos assuntos e não há garantia que a informação passada seja real.

Além disso, o sistema da ferramenta trabalha com dados de até 2021, não estando atualizado.

IA, regras e regulamentação

  • A presidente da Signal Foundation defendeu no painel a regulamentação do setor da IA;
  • Para ela, é necessário estratégias para frear a disseminação de informações falsas e impedir a invasão da privacidade dos usuários;
  • Segundo Whittaker, as únicas regras em vigor atualmente, na prática, apenas informam os usuários de que eles estão sendo vigiados e têm seus dados coletados;
  • Sequer há alternativa ou termo de aceitação para conceder essa permissão;
  • Além disso, as grandes empresas, como o Google, a Microsoft e a Amazon, detêm essas ferramentas, têm o poder todo concentrado nelas e não informam o que estão fazendo com esses dados.

Solução à IA

Ela acredita que a única forma de combater essa hegemonia, impedir o crescimento desenfreado da IA e estabelecer regras que regulam o uso é em conjunto. Isso pode vir, por exemplo, em políticas públicas locais que supervisionem as informações compartilhadas na internet com as grandes empresas.

A solução pode estar em se organizar enquanto sociedade. É preciso determinar como as informações estão sendo utilizadas e por quem.

Meredith Whittaker, no Web Summit Rio

Signal Foundation

Ao final do painel, Whittaker foi questionada sobre como o aplicativo de mensagens tem sido lar de supremacistas brancos e grupos de extrema-direita. Um dos motivos para isso é porque a plataforma criptografa as conversas, dando camada extra de segurança e garantindo o anonimato dos usuários.

Ela não respondeu diretamente e apenas reforçou o compromisso da empresa em manter o anonimato, afirmando que “nosso objetivo é preservar a habilidade de nos comunicarmos de forma privada, como era antes da internet”.

Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!