A Qualcomm fechou uma parceria com a Meta para executar o novo modelo de linguagem LLaMA 2 em chips para telefones e computadores a partir de 2024. A notícia foi confirmada nesta terça (19) pela gigante dos chips.
O que você precisa saber:
- Até agora, modelos de linguagem de IA dependem de muito poder de computação para funcionar.
- O boom da tecnologia inclusive deixou de lado as empresas que fabricam processadores para dispositivos móveis como a Qualcomm justamente por isso.
- O anúncio sugere que a empresa americana mudará isso, oferecendo processadores com poder de fogo adequado para a IA funcionar no próprio dispositivo e não “na nuvem”.
- Se tudo der certo, a nova abordagem reduzirá e muito o custo de execução de modelos de li, acelerando ainda mais o desenvolvimento de assistentes de voz e aplicativos melhores e mais otimizados.
A Qualcomm inclusive já trabalhou de perto com a Meta no passado, principalmente em chips para dispositivos de realidade virtual Quest. Os chips da empresa também já contam com uma “unidade de processador tensor” (ou TPU) adequada para os tipos de cálculos exigidos pelos modelos de IA. No entanto, o poder de processamento atual de um dispositivo móvel ainda é muito menor que a de um data center inteiro. Ainda não ficou claro o que a dupla irá fazer para suprir essa diferença.
Leia mais:
- ChatGPT já pode analisar imagens, mas você não tem acesso à opção
- Agora dá para pesquisar com imagens no ChatGPT do Bing
- Se cuida, ChatGPT! Meta libera tecnologia de IA de graça
Meta libera tecnologia de IA de graça
A Meta também anunciou hoje que abrirá o código do seu modelo de linguagem, permitindo que pesquisadores e empresas usem o LLaMA 2 em seus próprios dispositivos sem pagar nada.
- Segundo a big tech, o LLaMA 2 foi treinado com 40% mais dados quando comparado ao LLaMa 1, que já incluía informações de “fontes de dados on-line publicamente disponíveis”.
- A nova versão também promete superar outros modelos em testes de raciocínio, codificação, proficiência e conhecimento.
- O LLaMa 2 de código aberto estará disponível em plataformas como a Azure da Microsoft, AWS da Amazon e Hugging Face.
- Vale destacar que outros modelos, como o GPT-4 da OpenAI e o Bard do Google, são de código fechado.
Com informações da CNBC
Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!
Tags: