China schlägt neue Vorschriften zur Regulierung künstlicher Intelligenz (KI) vor, mit dem Ziel, Kinder zu schützen und zu verhindern, dass KI-Chatbots Ratschläge geben, die zu Selbstverletzung oder Gewalt führen könnten. Die Cyberspace Administration of China (CAC) veröffentlichte den Entwurf der Regeln am Wochenende und umriss Maßnahmen, die KI-Unternehmen dazu verpflichten würden, personalisierte Einstellungen und Zeitlimits für die Nutzung durch jüngere Nutzer anzubieten.

Die vorgeschlagenen Vorschriften sehen auch vor, dass KI-Unternehmen die Zustimmung der Erziehungsberechtigten einholen müssen, bevor sie Kindern emotionale Begleitdienste anbieten. Darüber hinaus wären Chatbot-Betreiber verpflichtet, ein menschliches Gegenüber jede Konversation in Bezug auf Selbstmord oder Selbstverletzung übernehmen zu lassen und unverzüglich den Erziehungsberechtigten des Nutzers oder einen Notfallkontakt zu benachrichtigen, so die CAC. Die Regeln zielen auch darauf ab, zu verhindern, dass KI-Modelle Inhalte generieren, die Glücksspiel fördern.

Diese Vorschriften gelten nach ihrer Fertigstellung für KI-Produkte und -Dienstleistungen, die innerhalb Chinas betrieben werden. Dies ist ein bedeutender Schritt zur Regulierung des schnell wachsenden KI-Sektors, der im Laufe des Jahres zunehmend wegen Sicherheitsbedenken in die Kritik geraten ist. Der Schritt folgt auf einen Anstieg der Einführung von KI-Chatbots sowohl in China als auch weltweit.

Die Entwicklung spiegelt wachsende globale Bedenken hinsichtlich der ethischen Implikationen und potenziellen Risiken wider, die mit KI verbunden sind, insbesondere mit generativer KI, die Texte, Bilder und andere Inhalte erstellen kann. Experten betonen die Notwendigkeit einer verantwortungsvollen KI-Entwicklung und -Implementierung, um potenzielle Schäden zu mindern.

Die von der CAC vorgeschlagenen Regeln unterstreichen den proaktiven Ansatz der chinesischen Regierung in Bezug auf die KI-Governance. Die Vorschriften befassen sich mit spezifischen Bedenken in Bezug auf die Sicherheit von Kindern und die psychische Gesundheit und spiegeln ein breiteres Bemühen wider, sicherzustellen, dass KI-Technologien verantwortungsvoll und ethisch eingesetzt werden.

Die Entwurfsregeln sind derzeit für öffentliche Kommentare geöffnet, und die CAC wird voraussichtlich Rückmeldungen berücksichtigen, bevor sie die Vorschriften fertigstellt. Die Umsetzung dieser Regeln könnte einen Präzedenzfall für andere Länder schaffen, die mit den Herausforderungen der KI-Governance zu kämpfen haben. Es wird erwartet, dass die Vorschriften Auswirkungen auf KI-Entwickler und -Dienstleister haben, die in China tätig sind, und sie dazu verpflichten, ihre Produkte und Dienstleistungen an die neuen Anforderungen anzupassen.