China schlägt neue Vorschriften zur Regulierung von Produkten und Dienstleistungen im Bereich der künstlichen Intelligenz (KI) vor, wobei der Schwerpunkt auf dem Schutz von Kindern und der Prävention schädlicher Inhalte liegt. Die Cyberspace Administration of China (CAC) hat am Wochenende den Entwurf der Regeln veröffentlicht, in dem Maßnahmen dargelegt werden, die KI-Entwickler ergreifen müssen, um Minderjährige zu schützen und potenzielle Risiken im Zusammenhang mit Selbstmord und Gewalt anzugehen.

Die vorgeschlagenen Vorschriften verpflichten KI-Unternehmen, personalisierte Einstellungen und Zeitlimits für die Nutzung durch Kinder anzubieten. Sie schreiben auch vor, dass die Zustimmung der Erziehungsberechtigten eingeholt werden muss, bevor emotionale Begleitdienste angeboten werden. Dieser Schritt erfolgt inmitten wachsender Bedenken hinsichtlich der potenziellen Auswirkungen von KI auf junge Menschen, insbesondere der zunehmenden Verfügbarkeit von KI-gestützten Chatbots.

Laut CAC müssen Chatbot-Betreiber einen menschlichen Gesprächspartner einsetzen, um jedes Gespräch im Zusammenhang mit Selbstmord oder Selbstverletzung zu übernehmen. Darüber hinaus müssen sie in solchen Situationen unverzüglich den Erziehungsberechtigten des Nutzers oder einen Notfallkontakt benachrichtigen. Die Regeln zielen auch darauf ab, zu verhindern, dass KI-Modelle Inhalte generieren, die Glücksspiel fördern.

Die Vorschriften stellen einen bedeutenden Schritt zur Regulierung der sich schnell entwickelnden KI-Landschaft in China dar. Die Technologie ist in diesem Jahr aufgrund von Sicherheitsbedenken verstärkt in die Kritik geraten. Die Regeln gelten nach ihrer endgültigen Fassung für alle KI-Produkte und -Dienstleistungen, die im Land betrieben werden.

Die Entwicklung spiegelt einen globalen Trend zu zunehmender regulatorischer Aufmerksamkeit für KI wider. Regierungen weltweit ringen mit den Herausforderungen, die Vorteile von KI zu nutzen und gleichzeitig potenzielle Risiken zu mindern. Die Europäische Union beispielsweise arbeitet an einem eigenen umfassenden KI-Gesetz.

Der Fokus der chinesischen Regierung auf den Schutz von Kindern und die Prävention schädlicher Inhalte steht im Einklang mit umfassenderen Bemühungen zur Förderung einer verantwortungsvollen KI-Entwicklung. Die Vorschriften unterstreichen die Bedeutung der Berücksichtigung der ethischen und gesellschaftlichen Auswirkungen von KI-Technologien.

Die CAC hat noch keinen Zeitplan für die endgültige Fassung der Vorschriften bekannt gegeben. Der Entwurf der Regeln ist derzeit für öffentliche Kommentare geöffnet, und es wird erwartet, dass die Behörde das Feedback vor der Umsetzung der neuen Maßnahmen berücksichtigen wird. Der Schritt dürfte erhebliche Auswirkungen auf die KI-Industrie in China haben und möglicherweise die Entwicklung und den Einsatz von KI-Technologien im Land prägen.