China hat neue Vorschriften zur Entwicklung künstlicher Intelligenz (KI) vorgeschlagen, die sich auf den Schutz von Kindern und die Verhinderung schädlicher Inhalte im Zusammenhang mit Selbstmord und Gewalt konzentrieren. Die Cyberspace Administration of China (CAC) veröffentlichte am Wochenende den Entwurf der Regeln, in dem Maßnahmen dargelegt werden, die KI-Unternehmen dazu verpflichten würden, personalisierte Einstellungen und Zeitlimits für die Nutzung zu implementieren sowie die Zustimmung der Erziehungsberechtigten einzuholen, bevor sie Minderjährigen emotionale Begleitdienste anbieten.

Die vorgeschlagenen Vorschriften befassen sich mit einer wachsenden Besorgnis über die potenziellen Risiken, die mit KI verbunden sind, insbesondere mit Chatbots, die sich in China und weltweit stark verbreitet haben. Die Regeln zielen darauf ab, sicherzustellen, dass KI-Modelle keine Inhalte generieren, die Glücksspiel fördern, und sie schreiben eine menschliche Intervention in Chatbot-Gesprächen vor, die Selbstmord oder Selbstverletzung beinhalten. In solchen Fällen müssen die Betreiber gemäß CAC unverzüglich den Erziehungsberechtigten des Nutzers oder einen Notfallkontakt benachrichtigen.

Nach ihrer Fertigstellung gelten diese Regeln für alle KI-Produkte und -Dienstleistungen, die in China betrieben werden, was einen bedeutenden Schritt zur Regulierung der sich schnell entwickelnden Technologie darstellt. Der Schritt erfolgt inmitten einer zunehmenden Prüfung der KI-Sicherheit und ethischer Erwägungen weltweit.

Die Vorschriften spiegeln einen proaktiven Ansatz zur Minderung potenzieller Schäden wider, die mit KI verbunden sind, insbesondere in Bezug auf schutzbedürftige Bevölkerungsgruppen wie Kinder. Durch die Forderung nach elterlicher Zustimmung und die Festlegung von Nutzungsgrenzen will die chinesische Regierung eine Schutzschicht gegen die potenziellen negativen Auswirkungen KI-gesteuerter Interaktionen bieten.

Die Entwurfsregeln sind zur öffentlichen Kommentierung freigegeben, und die CAC wird voraussichtlich das Feedback prüfen, bevor sie die Vorschriften fertigstellt. Der genaue Zeitplan für die Umsetzung ist noch unklar, aber die Ankündigung signalisiert eine klare Absicht, einen regulatorischen Rahmen für die KI-Entwicklung in China zu schaffen. Der Schritt könnte einen Präzedenzfall für andere Länder schaffen, die mit den Herausforderungen der Steuerung von KI und der Gewährleistung ihrer verantwortungsvollen Nutzung zu kämpfen haben.