Llion Jones tinha ótima posição no Google, onde ficou quase 12 anos, tendo sido um dos autores da pesquisa Transformers, fundamental para o entendimento da IA generativa atual.

Após deixar a gigante das buscas (algo normal entre nomes importantes), ele se juntou a seu ex-colega, David Ha, e montou um laboratório de pesquisa de IA generativa em Tóquio (Japão), chamado Sakana AI.

publicidade

Leia mais:

Jones afirmou que, apesar de não ter má vontade sobre o Google, ele se deu conta de que o tamanho da empresa o impedia de progredir no tipo de trabalho que ele desejava.

publicidade

Em entrevista à CNBC, ele disse que a situação “é apenas um efeito colateral das grandes empresas. Acho que a burocracia cresceu a ponto de eu sentir que não conseguiria fazer nada”.

No olho do furacão

Jones estudou IA e possui mestrado em Ciências da Computação Avançada pela Universidade de Birmigham (Inglaterra). Seu artigo de 2017 apresentou inovações que puderam contribuir para a criação do ChatGPT. Para quem não sabe, o T de GPT quer dizer Transformers – arquitetura por trás da maioria da atividade de IA generativa atual.

publicidade

Somos meio loucos. Estamos procurando métodos inspirados na natureza para ver se podemos encontrar maneira diferente de fazer as coisas em vez de fazer modelo cada vez maior.

Llian Jones, ex-engenheiro de software do Google e cofundador da Sakana AI, em entrevista à CNBC
  • Por ora, a Sakana não anunciou nenhum investidor;
  • Jones se tornou engenheiro de software do YouTube em 2012;
  • Em seu perfil no LinkedIn, ele diz que começou a “pesquisar inteligência de máquina e compreensão de linguagem natural” no Google em 2015.

Hordas de engenheiros para a IA

O Google está na seleta lista de empresas de tecnologia de grande porte que contratam vários pesquisadores há muitos anos, alguns já saindo das universidades direto para a vida laboral, para a construção e modelagem de modelos de IA destinados a enriquecer seus produtos.

Com o avanço do tempo, Jones passou a duvidar do motivo do mau funcionamento do software e quem eram os culpados por isso. Ele chegou à conclusão que a “culpada” era a distração da pesquisa.

publicidade

“Todos os dias, passava meu tempo tentando obter acesso a recursos, tentando obter acesso a dados”, afirmou Jones. O Google não quis comentar o assunto.

Depois de muitos anos construindo produtos em seus laboratórios, a gigante das buscas corre para incorporar, em seus produtos, a IA generativa, a partir de modelos de linguagem grande (LLMs), tais como o mecanismo de busca, YouTube, entre outros. Sem contar seu próprio chatbot de IA, o Bard.

Para Jones, o Google está concentrando “toda a empresa em torno dessa tecnologia” e a inovação acaba sendo mais desafiadora “porque é estrutura bastante restritiva”.

Por sua vez, Ha, que, após deixar o Google no ano passado e antes de fundar sua startup, ainda trabalhou como chefe de pesquisa na Stability AI, disse que ele e Jones conversaram com pessoas que desejavam trabalhar em LLMs, mas não finalizaram seus planos.

“Ficaria surpreso se os modelos de linguagem não fizessem parte do futuro”, afirmou Ha, que ainda indicou que não quer que a Sakana se torne mais uma empresa com um LLM somente.

Sobre a OpenAI, dona do ChatGPT, Ha afirmou que “tornou-se tão grande e um pouco burocrático”, não muito diferente dos grupos dentro do Google.

Já Jones entende que a OpenAI não é tão inovador. Ele afirmou que os dois sucessos da empresa, o ChatGPT e o DALL-E, foram criados a partir de pesquisa realizada por ele para o Google aplicada em larga escala com alguns refinamentos, porém, adiando compartilhar os desenvolvimentos com a comunidade. A empresa não quis comentar.

Ha informou que a Sakana contratou pesquisador acadêmico em meio período e que a empresa vai contratar mais gente. Porém, quando questionado se mais funcionários do Google virão, ele disse: “Ainda não”.

Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!