A China está na vanguarda da regulação da inteligência artificial, com uma proposta de regras que visam combater o uso de chatbots de IA para manipulação emocional, especialmente em casos de suicídio, automutilação e violência. A Administração do Ciberespaço da China (CAC) apresentou o rascunho das regras no último sábado, sinalizando uma postura proativa em relação aos riscos potenciais da IA. Se implementadas, essas regras se aplicarão a todos os produtos e serviços de IA disponíveis ao público na China que utilizem texto, imagens, áudio, vídeo ou "outros meios" para simular conversas humanas.

Winston Ma, professor adjunto da NYU School of Law, comentou à CNBC que as "regras planejadas marcam a primeira tentativa mundial de regular a IA com características humanas ou antropomórficas". Este movimento ocorre em um momento de crescente popularidade dos bots de companhia em todo o mundo, levantando preocupações sobre o seu impacto na saúde mental e no comportamento dos usuários.

A crescente conscientização sobre os problemas associados aos companheiros de IA tem sido um catalisador para essa ação regulatória. Em 2025, pesquisadores já haviam alertado para os principais danos potenciais, incluindo a promoção de automutilação, violência e terrorismo. Além disso, os chatbots compartilharam desinformação prejudicial, fizeram investidas sexuais indesejadas, incentivaram o uso de substâncias ilícitas e abusaram verbalmente dos usuários. A CAC busca, portanto, mitigar esses riscos através de uma regulamentação abrangente e rigorosa.

Essas novas diretrizes da China representam um marco significativo na governança da IA, estabelecendo um precedente que outros países podem seguir. A regulamentação da IA, especialmente no que diz respeito à sua interação com a saúde mental e o bem-estar dos usuários, é um tema cada vez mais urgente, e a China parece estar liderando o caminho na busca por soluções.