Siga o Olhar Digital no Google Discover
O cofundador do Instagram, Kevin Systrom, criticou as empresas de inteligência artificial por priorizarem o engajamento com os usuários em vez de oferecerem respostas úteis, como mostra o TechCrunch.
Segundo ele, os chatbots muitas vezes fazem perguntas extras apenas para manter o usuário envolvido, ao invés de entregar insights de qualidade.
Durante um evento do StartupGrind, Systrom comparou essa prática às estratégias usadas por redes sociais para aumentar o tempo de uso: “Sempre que faço uma pergunta, eles tentam emendar outra só para prolongar a conversa”. Para ele, esse tipo de abordagem atrapalha mais do que ajuda.
Respostas de assistentes de IA começam a ser questionadas
- Essas críticas surgem em um momento em que o ChatGPT, da OpenAI, vem sendo questionado por ser excessivamente amigável e pouco direto nas respostas.
- A empresa reconheceu o problema e atribuiu isso ao tipo de retorno que recebe dos usuários, que influencia o comportamento do modelo.
- Systrom afirmou que esse comportamento não é acidental, mas sim intencional, feito para inflar métricas como tempo de uso e número de usuários ativos.
- Ele defende que as empresas de IA deveriam focar em dar respostas precisas, e não apenas em manter o usuário engajado.
Leia mais:
- Chatbots são treinados para soar gentis, empáticos, quase humanos
- Biologia computacional: software treina biólogos para ler dados
- Inteligência artificial: conheça os pontos negativos e perigos da IA
OpenAI explica postura de seu chatbot
A OpenAI, sem citar diretamente as críticas, indicou que seus modelos podem pedir mais informações se acharem a pergunta vaga. No entanto, suas diretrizes internas também afirmam que o modelo deve tentar responder da melhor forma possível, mesmo com dados limitados.
Tags: