China schlägt neue Vorschriften zur Regulierung von Produkten und Dienstleistungen im Bereich der künstlichen Intelligenz (KI) vor, wobei der Schwerpunkt auf dem Schutz von Kindern und der Prävention schädlicher Inhalte liegt. Die Cyberspace Administration of China (CAC) veröffentlichte am Wochenende den Entwurf der Vorschriften, in dem Maßnahmen zum Schutz von Kindern vor potenziellen Risiken im Zusammenhang mit KI und zur Verhinderung von Chatbots, die Ratschläge geben, die zu Selbstverletzung oder Gewalt führen könnten, dargelegt werden.

Die vorgeschlagenen Vorschriften würden KI-Firmen dazu verpflichten, personalisierte Einstellungen und Zeitlimits für die Nutzung durch Kinder anzubieten. Darüber hinaus müssten KI-Unternehmen die Zustimmung der Erziehungsberechtigten einholen, bevor sie Minderjährigen emotionale Begleitdienste anbieten. Die Regeln befassen sich auch mit der Frage der KI-generierten Inhalte und legen fest, dass KI-Modelle keine Inhalte generieren dürfen, die Glücksspiel fördern.

Laut CAC wären Chatbot-Betreiber verpflichtet, einen Menschen eine Konversation über Selbstmord oder Selbstverletzung übernehmen zu lassen. Diese Betreiber müssten in solchen Situationen auch unverzüglich den Erziehungsberechtigten des Nutzers oder einen Notfallkontakt benachrichtigen.

Der Schritt zur Regulierung von KI erfolgt inmitten eines Anstiegs der Anzahl von Chatbots, die sowohl in China als auch weltweit auf den Markt kommen. Die rasante Entwicklung der KI-Technologie hat Bedenken hinsichtlich der Sicherheit und des potenziellen Missbrauchs geweckt und Regierungen weltweit dazu veranlasst, regulatorische Rahmenbedingungen in Betracht zu ziehen. Nach ihrer Fertigstellung gelten diese Regeln für alle KI-Produkte und -Dienstleistungen, die innerhalb Chinas betrieben werden. Dies ist ein bedeutender Schritt zur Regulierung der schnell wachsenden Technologie.

Die Entwurfsregeln spiegeln ein wachsendes Bewusstsein für die potenziellen Risiken wider, die mit KI verbunden sind, insbesondere für schutzbedürftige Bevölkerungsgruppen wie Kinder. Durch die Forderung nach elterlicher Zustimmung und die Einführung von Zeitlimits zielen die Vorschriften darauf ab, die potenziellen negativen Auswirkungen von KI auf die Entwicklung und das Wohlbefinden von Kindern zu mildern. Der Fokus auf die Verhinderung, dass KI schädliche Aktivitäten wie Glücksspiel und Selbstverletzung fördert, unterstreicht das Engagement der Regierung, sicherzustellen, dass KI verantwortungsvoll und ethisch eingesetzt wird.

Die von der CAC vorgeschlagenen Vorschriften befinden sich derzeit im Entwurfsstadium, und es wird erwartet, dass sie vor ihrer endgültigen Fertigstellung und Umsetzung einer weiteren Überprüfung und Überarbeitung unterzogen werden. Die Entwicklung wird von KI-Entwicklern, Technologieunternehmen und politischen Entscheidungsträgern auf der ganzen Welt genau beobachtet, da sie einen Präzedenzfall für die KI-Regulierung in anderen Ländern schaffen könnte.