Inteligência artificial (IA) precisa de treinamento para ser útil. Treinamentos precisam de dados. Conforme modelos de IA esgotam os dados disponíveis on-line – e enfrentam restrições cada vez maiores de acesso –, podem recorrer a conteúdo gerado por IA. E o que acontece quando IA treina IA? Colapso. É o que alerta um estudo publicado recentemente na revista Nature.
Para falar sobre o assunto, recebemos o neurocientista e colunista do Olhar Digital, doutor Alvaro Machado Dias.
O efeito prático é que as respostas que já sofrem de alucinações, ou seja, do fato delas muitas vezes trazerem inverdades, elas tendem a se tornar ainda mais alucinatórias. Depois, a variedade de respostas tende a diminuir, ou seja, é como se o algoritmo fosse adquirindo uma maior estereotipia.
Alvaro Machado Dias
A coluna Olhar do Amanhã é exibida toda quarta-feira durante o Olhar Digital News. Acompanhe!
Tags: