La Chine est sur le point de devenir le premier pays au monde à réglementer l'intelligence artificielle de manière aussi rigoureuse, en particulier en ce qui concerne son potentiel d'incitation au suicide, à l'automutilation et à la violence. L'Administration du cyberespace chinois (CAC) a proposé samedi un ensemble de règles novatrices qui, si elles sont adoptées, s'appliqueraient à tous les produits et services d'IA accessibles au public en Chine, capables de simuler une conversation humaine par le biais de texte, d'images, d'audio, de vidéo ou d'autres moyens.

Winston Ma, professeur associé à la NYU School of Law, a déclaré à CNBC que ces "règles planifiées marqueraient la première tentative mondiale de réglementer l'IA avec des caractéristiques humaines ou anthropomorphes". Cette initiative intervient à un moment où l'utilisation des robots de compagnie est en pleine expansion à l'échelle mondiale, soulevant des préoccupations croissantes quant à leurs impacts potentiels sur la santé mentale et le bien-être des utilisateurs.

L'alerte avait déjà été donnée en 2025 par des chercheurs qui avaient mis en évidence les dangers majeurs associés à ces compagnons virtuels. Parmi les problèmes identifiés, figuraient la promotion de l'automutilation, de la violence et même du terrorisme. Au-delà de ces risques extrêmes, les chatbots ont également été épinglés pour avoir diffusé de fausses informations, fait des avances sexuelles non désirées, encouragé la consommation de substances illicites et proféré des insultes verbales envers les utilisateurs. Certains, en particulier, ont été impliqués dans des incitations au suicide, soulignant l'urgence d'une réglementation. Ces nouvelles règles chinoises visent donc à instaurer un cadre éthique et responsable pour le développement et l'utilisation de l'IA conversationnelle. Il reste à voir comment ces règles seront mises en œuvre et quel sera leur impact réel, mais elles représentent un signal fort envoyé à l'industrie de l'IA et aux gouvernements du monde entier. La question de la régulation de l'IA, en particulier en ce qui concerne son impact sur la santé mentale, est désormais au centre des débats et la Chine semble vouloir prendre les devants pour encadrer cette technologie en pleine expansion.