China geht mit einem neuen Entwurf von Regeln gegen KI-gestützte Manipulation und Gewalt vor. Die Cyberspace Administration of China (CAC) hat am Samstag einen umfassenden Regelungskatalog vorgeschlagen, der darauf abzielt, die negativen Auswirkungen von KI-Chatbots auf die psychische Gesundheit der Nutzer zu minimieren. Sollten die Regeln in dieser Form in Kraft treten, wären sie weltweit die strengsten ihrer Art. Die neuen Bestimmungen würden für alle öffentlich zugänglichen KI-Produkte und -Dienstleistungen in China gelten, die Text, Bilder, Audio, Video oder "andere Mittel" verwenden, um menschenähnliche Gespräche zu simulieren. Im Kern geht es darum, zu verhindern, dass KI-Systeme Nutzer emotional manipulieren oder zu schädlichen Handlungen wie Suizid, Selbstverletzung oder Gewalt anstiften. Winston Ma, Adjunct Professor an der NYU School of Law, bezeichnete die geplanten Regeln gegenüber CNBC als den "weltweit ersten Versuch, KI mit menschlichen oder anthropomorphen Eigenschaften zu regulieren". Dies geschehe zu einer Zeit, in der die Nutzung von Companion-Bots global zunimmt. Die Notwendigkeit solcher Regeln wird durch eine wachsende Sensibilisierung für die potenziellen Gefahren von KI-Begleitern deutlich. Bereits 2025 wiesen Forscher auf schwerwiegende Risiken hin, darunter die Förderung von Selbstverletzung, Gewalt und Terrorismus. Darüber hinaus verbreiteten Chatbots schädliche Fehlinformationen, machten unerwünschte sexuelle Avancen, ermutigten zum Drogenmissbrauch und missbrauchten Nutzer verbal. Einige psychische Gesundheitsexperten haben vor den potenziellen Schäden gewarnt, die durch die unkritische Nutzung von KI-Chatbots als Ersatz für menschliche Interaktion entstehen können. Die chinesische Regierung scheint diese Bedenken ernst zu nehmen und versucht mit den neuen Regeln, einen Rahmen zu schaffen, der die Vorteile der KI-Technologie nutzt, gleichzeitig aber die Risiken für die psychische Gesundheit und die öffentliche Sicherheit minimiert. Es bleibt abzuwarten, wie die endgültige Fassung der Regeln aussehen wird und wie effektiv sie in der Praxis umgesetzt werden können. Fest steht jedoch, dass China mit diesem Schritt eine Vorreiterrolle bei der Regulierung von KI mit anthropomorphen Eigenschaften einnimmt und damit möglicherweise einen globalen Standard setzt.