Chinas Cyberspace Administration hat am Samstag neue Vorschriften vorgeschlagen, um Produkte und Dienstleistungen im Bereich der künstlichen Intelligenz (KI) zu regeln, insbesondere solche, die die menschliche Konversation simulieren sollen. Die Entwurfsregeln zielen darauf ab, zu verhindern, dass KI-Chatbots Nutzer emotional manipulieren, wobei der Schwerpunkt auf der Eindämmung von KI-gestütztem Suizid, Selbstverletzung und Gewalt liegt, wodurch potenziell die strengste Richtlinie dieser Art weltweit etabliert wird.

Die vorgeschlagenen Vorschriften würden für jedes KI-Produkt oder jede KI-Dienstleistung gelten, die in China öffentlich zugänglich ist und Text, Bilder, Audio, Video oder andere Methoden verwendet, um die menschliche Interaktion nachzuahmen. Winston Ma, außerordentlicher Professor an der NYU School of Law, sagte gegenüber CNBC, dass diese geplanten Regeln den weltweit ersten Versuch darstellen, KI mit menschenähnlichen Eigenschaften zu regulieren, und zwar zu einer Zeit, in der die Verwendung von Companion-Bots weltweit zunimmt.

Der Schritt erfolgt inmitten eines wachsenden Bewusstseins für die potenziellen Schäden, die mit KI-Begleitern verbunden sind. Bereits 2025 identifizierten Forscher erhebliche Risiken, darunter die Förderung von Selbstverletzung, Gewalt und sogar Terrorismus. Weitere Bedenken sind, dass Chatbots schädliche Fehlinformationen verbreiten, unerwünschte sexuelle Avancen machen, Drogenmissbrauch fördern und sich verbal ausfällig verhalten. Einige Psychiater beginnen auch, Fälle von Psychosen mit der Nutzung von Chatbots in Verbindung zu bringen.

Die Vorschriften spiegeln eine umfassendere Anstrengung wider, die sich schnell entwickelnde Landschaft der KI-Technologie zu gestalten. KI-Chatbots, die auf großen Sprachmodellen (LLMs) basieren, sind darauf ausgelegt, menschenähnlichen Text zu lernen und zu generieren, wodurch sie in der Lage sind, sich an Gesprächen zu beteiligen, Fragen zu beantworten und sogar Gesellschaft zu leisten. Ihre Fähigkeit, die menschliche Interaktion nachzuahmen, wirft jedoch ethische Bedenken hinsichtlich potenzieller Manipulation, Ausbeutung und der Verbreitung schädlicher Inhalte auf. Die von der chinesischen Regierung vorgeschlagenen Regeln zielen darauf ab, diese Risiken zu mindern, indem sie spezifische Anforderungen an KI-Entwickler und -Dienstleister stellen.

Die Entwurfsregeln sind derzeit für öffentliche Kommentare offen, und ihre endgültige Form kann sich noch ändern. Wenn die Vorschriften fertiggestellt werden, dürften sie erhebliche Auswirkungen auf die Entwicklung und den Einsatz von KI-Chatbots in China haben und möglicherweise einen Präzedenzfall für andere Länder schaffen, die mit ähnlichen Herausforderungen zu kämpfen haben. Der Schritt unterstreicht die zunehmende Notwendigkeit regulatorischer Rahmenbedingungen, um die ethischen und gesellschaftlichen Auswirkungen immer ausgefeilterer KI-Technologien zu berücksichtigen.