China plant neue Vorschriften zur Regulierung von Produkten und Dienstleistungen im Bereich der künstlichen Intelligenz (KI), wobei der Schwerpunkt auf dem Schutz von Kindern und der Prävention schädlicher Inhalte liegt. Die Cyberspace Administration of China (CAC) hat am Wochenende den Entwurf der Regeln veröffentlicht, in dem Maßnahmen dargelegt werden, die sicherstellen sollen, dass KI-Modelle keine Inhalte generieren, die Glücksspiel fördern, und vor den Risiken von Selbstverletzung oder Gewalt schützen.

Die vorgeschlagenen Regeln befassen sich mit der zunehmenden Verbreitung von KI-Chatbots und ihren potenziellen Auswirkungen, insbesondere auf gefährdete Bevölkerungsgruppen. KI-Unternehmen werden verpflichtet, personalisierte Einstellungen und Zeitlimits für die Nutzung durch Kinder anzubieten. Darüber hinaus müssen Entwickler die Zustimmung der Erziehungsberechtigten einholen, bevor sie emotionale Begleitdienste über KI anbieten.

Eine Schlüsselbestimmung schreibt die menschliche Intervention in Chatbot-Gespräche im Zusammenhang mit Selbstmord oder Selbstverletzung vor. Laut CAC müssen Chatbot-Betreiber bei solchen Gesprächen einen Menschen übernehmen und unverzüglich den Erziehungsberechtigten des Nutzers oder einen Notfallkontakt benachrichtigen.

Diese Vorschriften stellen einen bedeutenden Schritt zur Regulierung der sich schnell entwickelnden KI-Landschaft in China dar. Der Schritt spiegelt die wachsenden globalen Bedenken hinsichtlich der Sicherheit und der ethischen Implikationen der KI-Technologie wider. In diesem Jahr wurde die KI-Sicherheit intensiv geprüft, was Regierungen und Organisationen weltweit dazu veranlasst hat, über regulatorische Rahmenbedingungen nachzudenken.

Die spezifischen Anforderungen an personalisierte Einstellungen, Zeitlimits und die Zustimmung der Erziehungsberechtigten unterstreichen die Betonung des Kinderschutzes innerhalb des chinesischen Regulierungsansatzes. Die Regel, die eine menschliche Intervention in sensiblen Gesprächen vorschreibt, unterstreicht die Grenzen der aktuellen KI-Technologie bei der Bewältigung komplexer emotionaler Situationen.

Die Vorschriften gelten nach ihrer Fertigstellung für alle KI-Produkte und -Dienstleistungen, die in China betrieben werden. Die Ankündigung der CAC folgt auf einen Anstieg der Entwicklung und des Einsatzes von KI-Chatbots sowohl in China als auch international. Die neuen Regeln zielen darauf ab, potenzielle Risiken im Zusammenhang mit dieser Verbreitung von KI-gesteuerten Interaktionen anzugehen.

Die Entwurfsregeln werden derzeit geprüft, und die CAC hat noch keinen Zeitplan für ihre Fertigstellung und Umsetzung bekannt gegeben. Die Entwicklung wird von KI-Entwicklern, Technologieunternehmen und politischen Entscheidungsträgern weltweit genau beobachtet, da sie einen Präzedenzfall für die KI-Regulierung in anderen Ländern schaffen könnte.