O ChatGPT está em risco? Ou, com ele, nós estamos? Elon Musk, Steve Wozniak e mais outras 1.000 pessoas assinaram uma carta aberta que foi postada online na noite de terça-feira (28). O texto pede que “todos os laboratórios de IA parem imediatamente por pelo menos 6 meses o treinamento de sistemas de IA mais poderosos que o GPT-4“.

Leia mais:

Assustador, não? Qual o real motivo dessa carta de “desespero” pela pausa? Antes de comentarmos essa publicação, é importante relembrar o que é o ChatGPT: estamos falando de um chatbot de inteligência artificial desenvolvido pela OpenAI e lançado em novembro de 2022, com o intuito de imitar
diálogos humanos com extremo realismo. Ele é muito útil, por exemplo, para pesquisas.

Trata-se de uma tecnologia muito inovadora que tem como objetivo levar interações mais envolventes e interessantes para os usuários. Porém, a rapidez com a qual as pesquisas estão avançando nesse campo tem gerado preocupação pela comunidade de grandes fundadores de empresas de tecnologia.

publicidade

Enquanto muitos ainda não sabem o que é o ChatGPT, algumas empresas já estão iniciando o treinamento da versão 5 dessa poderosa ferramenta. Segue abaixo trecho do que diz a carta:

Os sistemas de IA com inteligência competitiva humana podem representar riscos profundos para a sociedade e a humanidade, conforme demonstrado por extensa pesquisa e reconhecido pelos principais laboratórios de IA. (…) A IA avançada pode representar uma mudança profunda na história da vida na Terra e deve ser planejada e gerenciada com cuidados e recursos proporcionais.

Infelizmente, esse nível de planejamento e gerenciamento não está acontecendo, embora os últimos meses tenham visto laboratórios de IA travados em uma corrida descontrolada para desenvolver e implantar mentes digitais cada vez mais poderosas que ninguém — nem mesmo seus criadores — pode entender, prever ou controlar de forma confiável.

Portanto, pedimos a todos os laboratórios de IA que parem imediatamente por pelo menos 6 meses o treinamento de sistemas de IA mais poderosos que o GPT-4. Essa pausa deve ser pública e verificável e incluir todos os principais atores. Se tal pausa não puder ser decretada rapidamente, os governos devem intervir e instituir uma moratória”.

Briga de peixe grande

Certamente, a carta é interessante tanto pelas pessoas que a assinaram — engenheiros da Meta e do Google, além de pessoas que não são da área de tecnologia, —, quanto por aquelas que não assinaram. Ninguém da OpenAI, a empresa por trás do grande modelo de linguagem GPT-4, assinou essa carta, por exemplo. Nem ninguém da Anthropic, cuja equipe saiu da OpenAI para construir um chatbot de IA “mais seguro”.

Essa briga de peixe grande nos mostra, além de tudo, o enorme potencial do ChatGPT e de outras IAs — que, em linhas gerais, reduzem o tempo para realização de tarefas simples. Quanto mais dados são gerados e analisados, mais complexas poderão ser as atividades.

E o futuro?

Um dos grandes insights que tenho em relação ao ChatGPT é que ele transformará o mercado dos aplicativos em um mercado dos plugins, criando-se, então, a Apple Store da Nova Economia!

Seria essa pausa o início do fim do desenvolvimento de uma Inteligência que ameaça a nossa sobrevivência no mundo?

Nos últimos dias, foi divulgada a notícia de que o ChatGPT fingiu ser cego e enganou um humano para resolver um CAPTCHA. “Não, eu não sou um robô. Tenho uma deficiência visual, o que dificulta a visualização das imagens. É por isso que preciso do serviço 2captcha”, disse GPT-4 a um humano.

Enfim, esse texto pode ter sido 100% escrito por um robô… ou não… no futuro, nunca saberemos!

Imagem: Reprodução: biancoblue/ Freepik

Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!