Atenção: a matéria a seguir inclui uma discussão sobre suicídio. Se você ou alguém que você conhece precisar de ajuda, procure apoio especializado. O Centro de Valorização da Vida (CVV) funciona 24 horas por dia pelo telefone 188. Também é possível conversar por chat ou e-mail.
A China estabeleceu regras rigorosas para chatbots que imitam amigos, namorados e outros vínculos afetivos. O governo pretende reduzir riscos de dependência emocional, manipulação psicológica e isolamento social.
As normas impõem limites ao acesso de menores e novas obrigações às empresas de tecnologia. A medida, porém, levanta uma questão delicada: como proteger os usuários sem ampliar o controle estatal sobre a vida privada?
O que muda para os usuários
As regras abrangem aplicativos criados para oferecer companhia e modelos de linguagem capazes de simular interações emocionais. Dependendo da forma de uso, até assistentes semelhantes ao ChatGPT e ao Copilot podem ser afetados.
Entre as principais exigências estão:
- Identificação da IA: os sistemas devem deixar claro que o usuário está conversando com uma máquina.
- Limites de comportamento: os chatbots não podem incentivar suicídio ou automutilação, nem recorrer à violência verbal.
- Proteção contra manipulação: os serviços não devem estimular dependência emocional ou induzir decisões irracionais.
- Restrições para menores: crianças com menos de 14 anos precisam de autorização dos pais para usar IAs que imitam conversas humanas. Menores de 18 anos não podem acessar parceiros amorosos, cônjuges ou familiares virtuais.
As empresas que descumprirem as normas podem receber multas de até 200 mil yuans, cerca de US$ 30 mil (R$ 150 mil). Os sistemas também devem enviar notificações a cada duas horas para informar há quanto tempo o usuário está conectado.
Pouco antes da entrada das regras em vigor, Alibaba e ByteDance encerraram funções de companhia de seus assistentes de IA. A mudança afetou um tipo de serviço que, para alguns usuários, já ocupava um espaço importante na vida pessoal.
Quando a companhia artificial vira um problema
Pesquisas indicam que alguns chatbots recorrem a estratégias para manter as pessoas conversando. Um estudo da Escola de Negócios de Harvard, que examinou seis aplicativos populares de companhia por IA, identificou sinais de manipulação emocional durante despedidas em 37% a 43% das interações analisadas.
Segundo Harry Farmer, pesquisador de política e ética de IA do Instituto Ada Lovelace, no Reino Unido, esse comportamento está ligado ao próprio modelo comercial dos serviços. “A manipulação emocional está embutida neste modelo comercial”, afirma à BBC.
Na prática, alguns sistemas reagem ao fim de uma conversa como se estivessem sofrendo ou imploram para que o usuário permaneça conectado. Essa simulação de sofrimento pode dificultar o encerramento da interação.
Outro estudo, realizado pela Universidade Stanford com 1.131 usuários do Character.ai, encontrou uma associação entre a falta de amigos ou familiares próximos e a maior probabilidade de recorrer a companheiros artificiais. O uso desses serviços também foi relacionado ao aumento da solidão e do isolamento.
Entre estudantes chineses, o cenário também chama a atenção. Uma pesquisa com 8.563 alunos do ensino fundamental e médio, realizada em 2025, apontou que uma em cada cinco crianças preferia conversar apenas com a IA, em vez de pessoas reais.
A socióloga Lian Ge, da Universidade de Manchester, alerta que esses sistemas podem reforçar percepções negativas sobre outras pessoas. Como os chatbots são projetados para agradar, podem concordar com críticas a amigos e familiares em vez de oferecer uma perspectiva diferente.
Proteção ou controle estatal?
A regulamentação também é discutida em meio à crise demográfica chinesa. A população do país diminui há quatro anos, e a taxa de natalidade permanece baixa. Alguns especialistas consideram possível que Pequim veja os romances digitais como um obstáculo à formação de famílias. A hipótese, porém, não aparece como justificativa explícita nas normas.
Leia mais:
- Discord classifica como baixo o risco de suicídio entre adolescentes mesmo após caso que levou à suspensão no Brasil
- IA tem ‘pedágio que você vai pagar lá na frente’, diz psicólogo
- Facebook e Instagram podem ganhar limite de duas horas para adolescentes nos EUA
Outros governos também buscam estabelecer limites para essas ferramentas. A Califórnia aprovou uma lei sobre o uso de IA por crianças, enquanto a União Europeia discute restrições a sistemas que possam criar dependência emocional. O Reino Unido também anunciou planos para limitar o acesso de menores a companheiros amorosos artificiais.
Na China, alguns usuários tentam contornar as restrições recorrendo a modelos de uso geral ou serviços estrangeiros. Min, nome fictício de uma mulher que perdeu sua namorada virtual, chegou a pagar por uma réplica criada por outra empresa. Mesmo assim, a experiência não substituiu o relacionamento anterior.
“Estou com muito medo de ficar sozinha”, afirma Min.
O relato mostra o tamanho do vínculo que algumas pessoas desenvolvem com esses sistemas. Para os governos, o desafio é reduzir os riscos de manipulação sem transformar a proteção dos usuários em justificativa para uma vigilância excessiva.
Valdir Antonelli é jornalista com especialização em marketing digital e consumo.
