Siga o Olhar Digital no Google Discover
Alguns meses atrás, ao se encontrar com um executivo de IA em San Francisco, EUA, o repórter Kevin Roose, do The Ney York Times, viu um adesivo estranho no laptop do entrevistado.
Ofertas
Por: R$ 36,21
Por: R$ 24,96
Por: R$ 9,90
Por: R$ 5,86
Por: R$ 113,70
Por: R$ 6,90
Por: R$ 3.099,00
Por: R$ 3.324,00
Por: R$ 799,00
Por: R$ 241,44
Por: R$ 388,78
Por: R$ 2.159,00
Por: R$ 188,99
Por: R$ 45,00
Por: R$ 379,00
Por: R$ 1.239,90
Por: R$ 943,20
Por: R$ 798,99
Por: R$ 199,00
Por: R$ 476,10
Por: R$ 1.139,05
Por: R$ 949,00
Por: R$ 155,44
Por: R$ 119,90
Por: R$ 398,99
Por: R$ 79,90
Por: R$ 222,11
O adesivo mostrava um desenho animado de uma criatura ameaçadora, semelhante a um polvo, com muitos olhos e um rosto sorridente amarelo preso a um de seus tentáculos. Ele perguntou o que era. “Oh, esse é o Shoggoth,” explicou o executivo. “É o meme mais importante da IA.”
Leia mais:
- 4 dicas para usar o ChatGPT de modo adequado e seguro
- Por que os preços de smartphones e tablets são tão altos no Brasil?
- WhatsApp e Instagram: os apps preferidos dos brasileiros
Dali em diante, nada de chatbots e clusters de computação – o tema passou a ser o Shoggoth, o que significava e por que as pessoas no mundo da IA estavam falando sobre isso.
O executivo explicou que o Shoggoth se tornou referência popular entre os trabalhadores em inteligência artificial, como metáfora visual vívida de como um grande modelo de linguagem (o tipo de sistema de IA que alimenta o ChatGPT e outros chatbots) realmente funciona.
Mas foi apenas parcialmente uma piada, disse o executivo, porque também insinuou a ansiedade que muitos pesquisadores e engenheiros têm sobre as ferramentas que estão construindo.
Desde então, o Shoggoth se tornou viral, ou o mais viral possível no pequeno mundo dos insiders da IA hiper-online. É um meme popular na IA do Twitter (incluindo um tuíte excluído de Elon Musk), uma metáfora recorrente em ensaios e postagens em quadros de mensagens sobre os riscos da IA e um pouco de taquigrafia útil em conversas com especialistas em segurança de IA.
Uma startup de IA, a NovelAI, afirmou que, recentemente, batizou um cluster de computadores de “Shoggy” em homenagem ao meme. Outra empresa de IA, a Scale AI, projetou linha de sacolas com o Shoggoth.
Mas, afinal, o que são os Shoggoths?
- Shoggoths são criaturas fictícias, introduzidas pelo autor de ficção científica H.P. Lovecraft em sua obra de 1936 “Nas Montanhas da Loucura”;
- Na narrativa de Lovecraft, os Shoggoths eram monstros maciços, parecidos com bolhas, feitos de gosma negra iridescente, cobertos de tentáculos e olhos;
- Os Shoggoths desembarcaram no mundo da IA em dezembro, um mês após o lançamento do ChatGPT;
- O usuário do Twitter TetraspaceWest respondeu a um tuíte sobre o GPT-3 com imagem de dois Shoggoths desenhados à mão – o primeiro rotulado como “GPT-3” e o segundo rotulado como “GPT-3 + RLHF”;
- O segundo Shoggoth tinha, empoleirado em um de seus tentáculos, uma máscara de rosto sorridente.
Shoggoths desembarcaram no mundo da IA em dezembro, um mês após o lançamento do ChatGPT, quando o usuário do Twitter TetraspaceWest respondeu a um tuíte sobre o GPT-3, com imagem de dois Shoggoths desenhados à mão – o primeiro rotulado como “GPT-3” e o segundo rotulado como “GPT-3 + RLHF”. O segundo Shoggoth tinha, empoleirado em um de seus tentáculos, uma máscara de rosto sorridente.
Em poucas palavras, a piada era que, para evitar que modelos de linguagem de IA se comportem de maneiras assustadoras e perigosas, as empresas que trabalham com a tecnologia tiveram que treiná-los para agir de forma educada e inofensiva.
Uma maneira popular de fazer isso é chamada de “aprendizado por reforço a partir do feedback humano”, ou R.L.H.F., processo que envolve pedir aos humanos para pontuar as respostas do chatbot e alimentar essas pontuações de volta no modelo de IA.
A maioria dos pesquisadores de IA concordam que os modelos treinados usando R.L.H.F. são mais bem comportados do que os modelos sem ele. Mas alguns argumentam que ajustar um modelo de linguagem dessa maneira não torna o modelo subjacente menos estranho e inescrutável. Na visão deles, é apenas uma máscara frágil e amigável que obscurece a misteriosa fera por baixo.
TetraspaceWest, o criador do meme, disse que o Shoggoth “representa algo que pensa de uma maneira que os humanos não entendem e que é totalmente diferente da maneira como os humanos pensam”.
Comparando um modelo de linguagem de IA para um Shoggoth, TetraspaceWest afirmou que não estava necessariamente implicando que era mau ou senciente, apenas que sua verdadeira natureza pode ser incompreensível.
Também estava pensando sobre como as entidades mais poderosas de Lovecraft são perigosas – não porque não gostem de humanos, mas porque são indiferentes e suas prioridades são totalmente estranhas para nós e não envolvem humanos, que é o que eu acho que seja verdade sobre uma possível futura IA poderosa.
TetraspaceWest, usuário do Twitter e criador do meme Shoggoth
A imagem do Shoggoth pegou, como os chatbots de IA se tornaram populares e os usuários começaram a perceber que alguns deles pareciam estar fazendo coisas estranhas e inexplicáveis que seus criadores não pretendiam.
Um jornalista de IA brincou que, quando se tratava de ajustar o Bing (que enlouqueceu em fevereiro), a Microsoft havia esquecido de colocar sua máscara de rosto sorridente.
Eventualmente, os entusiastas de IA estenderam a metáfora. Em fevereiro, o usuário do Twitter anthrupad criou uma versão de um Shoggoth que tinha, além de um rosto sorridente rotulado como “R.L.H.F.”, um rosto mais humano rotulado como “ajuste fino supervisionado” (praticamente precisamos de um diploma de ciência da computação para entender a piada, mas é um riff sobre a diferença entre modelos gerais de linguagem de IA e aplicativos mais especializados, como chatbots).
Hoje, se você ouvir menções do Shoggoth na comunidade IA, pode ser uma “piscadela” para a estranheza desses sistemas – a natureza de caixa preta de seus processos, a maneira como eles parecem desafiar a lógica humana.
Ou, talvez, seja uma piada interna, abreviatura visual para sistemas poderosos de IA que parecem suspeitosamente legais. Se for um pesquisador de segurança de IA falando sobre o Shoggoth, talvez essa pessoa seja apaixonada por prevenir que sistemas exibam sua verdadeira natureza de Shoggoth.
De qualquer forma, o Shoggoth é uma poderosa metáfora que encapsula um dos fatos mais bizarros sobre o mundo de IA, que é que muitas das pessoas que trabalham com essa tecnologia ficam um tanto perplexas com suas próprias criações.
Eles não entendem completamente o funcionamento interno dos modelos de linguagem de IA, como eles adquirem novos recursos ou por que às vezes se comportam de maneira imprevisível.
Eles não têm certeza se a IA vai ser boa ou ruim para o mundo. E alguns deles começaram a brincar com as versões dessa tecnologia que ainda não foram sanitizadas para consumo público – os verdadeiros Shoggoths sem máscara.
Que alguns insiders de IA referem-se a suas criações como horrores Lovecraftianos, mesmo como uma piada, é incomum para os padrões históricos (exmplo: 15 anos atrás, Mark Zuckerberg não andava comparando o Facebook ao Cthulhu, outra criatura de Lovecraft).
E reforça a noção de que o que está acontecendo na IA hoje, parece, para alguns de seus participantes, mais um ato de convocação do que um processo de desenvolvimento de software. Eles estão criando os Shoggoths alienígenas inchados, tornando-os maiores e mais poderosos, e esperando que haja rostos sorridentes suficientes para cobrir as partes assustadoras.
Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!
