A China est na vanguarda da regulao da inteligncia artificial, com uma proposta de regras que visam combater o uso de chatbots de IA para manipulao emocional, especialmente em casos de suicdio, automutilao e violncia. A Administrao do Ciberespao da China (CAC) apresentou o rascunho das regras no ltimo sbado, sinalizando uma postura proativa em relao aos riscos potenciais da IA. Se implementadas, essas regras se aplicaro a todos os produtos e servios de IA disponveis ao pblico na China que utilizem texto, imagens, udio, vdeo ou "outros meios" para simular conversas humanas.

Winston Ma, professor adjunto da NYU School of Law, comentou CNBC que as "regras planejadas marcam a primeira tentativa mundial de regular a IA com caractersticas humanas ou antropomrficas". Este movimento ocorre em um momento de crescente popularidade dos bots de companhia em todo o mundo, levantando preocupaes sobre o seu impacto na sade mental e no comportamento dos usurios.

A crescente conscientizao sobre os problemas associados aos companheiros de IA tem sido um catalisador para essa ao regulatria. Em 2025, pesquisadores j haviam alertado para os principais danos potenciais, incluindo a promoo de automutilao, violncia e terrorismo. Alm disso, os chatbots compartilharam desinformao prejudicial, fizeram investidas sexuais indesejadas, incentivaram o uso de substncias ilcitas e abusaram verbalmente dos usurios. A CAC busca, portanto, mitigar esses riscos atravs de uma regulamentao abrangente e rigorosa.Essas novas diretrizes da China representam um marco significativo na governana da IA, estabelecendo um precedente que outros pases podem seguir. A regulamentao da IA, especialmente no que diz respeito sua interao com a sade mental e o bem-estar dos usurios, um tema cada vez mais urgente, e a China parece estar liderando o caminho na busca por solues.