China schlägt neue Vorschriften zur Regulierung künstlicher Intelligenz (KI) vor, mit dem Ziel, Kinder zu schützen und zu verhindern, dass KI-Chatbots Ratschläge geben, die zu Selbstverletzung oder Gewalt führen könnten. Die Cyberspace Administration of China (CAC) veröffentlichte den Entwurf der Regeln am Wochenende und umriss Maßnahmen, die KI-Unternehmen dazu verpflichten würden, personalisierte Einstellungen und Zeitlimits für die Nutzung anzubieten sowie die Zustimmung von Erziehungsberechtigten einzuholen, bevor sie emotionale Begleitdienste anbieten.

Die geplanten Vorschriften werden von Entwicklern auch verlangen sicherzustellen, dass ihre KI-Modelle keine Inhalte generieren, die Glücksspiel fördern. Die Ankündigung folgt auf einen deutlichen Anstieg der Anzahl von KI-Chatbots, die sowohl in China als auch weltweit auf den Markt gebracht werden. Nach ihrer Fertigstellung gelten diese Regeln für alle KI-Produkte und -Dienstleistungen, die in China betrieben werden.

Der Schritt markiert einen bedeutenden Schritt zur Regulierung der schnell wachsenden KI-Technologie, die im Laufe des Jahres zunehmend wegen Sicherheitsbedenken in die Kritik geraten ist. Die CAC betonte die Notwendigkeit menschlicher Intervention bei Chatbot-Gesprächen im Zusammenhang mit Selbstmord oder Selbstverletzung und ordnete an, dass Betreiber solche Gespräche von einem Menschen übernehmen und den Erziehungsberechtigten des Nutzers oder einen Notfallkontakt unverzüglich benachrichtigen müssen.

Diese Vorschriften spiegeln wachsende globale Bedenken hinsichtlich der potenziellen Risiken wider, die mit zunehmend hochentwickelten KI-Systemen verbunden sind. KI beinhaltet im Kern die Schaffung von Computersystemen, die in der Lage sind, Aufgaben auszuführen, die typischerweise menschliche Intelligenz erfordern, wie z. B. Lernen, Problemlösung und Entscheidungsfindung. Generative KI, eine Untergruppe der KI, kann neue Inhalte erstellen, darunter Text, Bilder und Audio, basierend auf den Daten, mit denen sie trainiert wurde. Diese Fähigkeit hat zur Verbreitung von Chatbots und anderen KI-gesteuerten Anwendungen geführt.

Die Auswirkungen dieser Vorschriften reichen über Chinas Grenzen hinaus und könnten die Entwicklung und den Einsatz von KI-Technologien weltweit beeinflussen. Der Fokus auf den Schutz von Kindern und die Berücksichtigung psychischer Risiken unterstreicht die ethischen Überlegungen, die zunehmend im Mittelpunkt der KI-Debatte stehen. Da sich KI ständig weiterentwickelt, ringen Regierungen und Organisationen mit der Herausforderung, Innovation mit der Notwendigkeit, potenzielle Schäden zu mindern, in Einklang zu bringen.

Die Entwurfsregeln werden derzeit geprüft, und die CAC hat noch keinen Zeitplan für ihre Fertigstellung und Umsetzung bekannt gegeben. Die spezifischen Mechanismen zur Durchsetzung dieser Vorschriften und die potenziellen Strafen bei Nichteinhaltung bleiben abzuwarten. Die vorgeschlagenen Regeln signalisieren jedoch eine klare Absicht der chinesischen Regierung, eine proaktive Rolle bei der Gestaltung der Zukunft der KI zu übernehmen und ihre verantwortungsvolle Entwicklung sicherzustellen.