Siga o Olhar Digital no Google Discover
Se você está acostumado a conversar com chatbots de IA, provavelmente o faz usando sua língua nativa. A tecnologia é inteligente o suficiente para entender, fazer seu trabalho e responder no mesmo idioma que você se dirige a ela. No entanto, por trás da resposta, a inteligência artificial pode estar pensando em inglês.
Ofertas
Por: R$ 727,20
Por: R$ 27,81
Por: R$ 50,10
Por: R$ 67,95
Por: R$ 10,90
Por: R$ 2.069,90
Por: R$ 56,60
Por: R$ 75,85
Por: R$ 334,32
Por: R$ 23,83
Por: R$ 140,00
Por: R$ 178,49
Por: R$ 198,99
Por: R$ 3.999,00
Por: R$ 160,65
Por: R$ 187,00
Por: R$ 209,90
Por: R$ 166,19
Por: R$ 330,00
Isso tem a ver com o conjunto de dados usados para treinar os modelos de linguagem. Isso pode parecer inofensivo, mas uma nova hipótese acredita que o resultado reproduz vieses culturais de cada idioma.
Leia mais:
- Como aprender inglês e outros idiomas sozinho com ChatGPT
- 10 melhores chatbots para usar no ChatGPT
- Como criar seu “próprio” ChatGPT; veja passo a passo
Chatbot fala qualquer língua, mas pensa em inglês
A hipótese foi levantada por pesquisadores da EPFL, uma universidade suíça, ao realizar testes com o Llama-2, o modelo de linguagem de código aberto da Meta.
Eles dizem que, independentemente do idioma em que está operando, os mecanismos por trás da IA funcionam em inglês. Para isso, os responsáveis explicam como a tecnologia funciona em primeiro lugar:
- Os modelos de linguagem são feitos para prever a próxima palavra. Para isso, eles associam cada palavra a um vetor de número;
- Conforme a IA é treinada, a tecnologia entende como cada frase é estruturada e onde normalmente cada palavra (e, consequentemente, o vetor) fica. Assim, considerando o contexto, ele consegue prever qual será a próxima.
Então, os pesquisadores usaram o Llama-2 para testar como isso funcionava com diferentes línguas:
- Eles enviaram várias tarefas ao chatbot e observaram como se dava o processo de chegar até a previsão da próxima palavra;
- No entanto, eles não deixaram a IA terminar a análise dos vetores e analisaram, nessa situação, qual era a resposta;
- Os pesquisadores testaram isso mudando de língua: eles pediram que a IA traduzisse uma série de palavras em francês para chinês;
- Eles descobriram que a IA chega a um resultado final satisfatório em chinês a partir do francês, mas, durante a análise preditiva, resultados semelhantes ao inglês aparecem no processamento (apesar do inglês não ser especificado em nenhuma parte do prompt).
Conclusões sobre como a IA pensa
A hipótese mais óbvia levantada pelos pesquisadores foi que a IA traduz o que foi dito para inglês, realiza a tarefa e a devolve em chinês. Segundo o Tech Xplore, isso acontece porque 90% dos dados usados para treinar a tecnologia estavam em inglês.
A segunda hipóteses é mais complexa. Os pesquisadores acreditam que, para realizar a análise preditiva, a IA precisa de repertório sobre o que se trata o contexto e os conceitos abordados no prompt. Para isso, recorre ao inglês.
Só que isso pode ter riscos culturais: os estudiosos acreditam que as palavras referem-se a conceitos. No entanto, cada conceito muda dependendo da língua.
Ou seja, a cada língua, o chatbot deveria ter uma visão de mundo diferente, mas não é isso que acontece. A visão de mundo é baseado nos termos em inglês e em como pessoas aplicam os conceitos nesse idioma.
Tags: