China schlägt neue Vorschriften zur Regulierung von Produkten und Dienstleistungen im Bereich der künstlichen Intelligenz (KI) vor, wobei der Schwerpunkt auf dem Schutz von Kindern und der Prävention schädlicher Inhalte liegt. Die Cyberspace Administration of China (CAC) veröffentlichte den Entwurf der Regeln am Wochenende und umriss Maßnahmen zum Schutz von Kindern und zur Bewältigung potenzieller Risiken, die mit KI-gesteuerten Interaktionen verbunden sind.

Die vorgeschlagenen Vorschriften zielen auf KI-Entwickler ab und verpflichten sie, personalisierte Einstellungen und Zeitlimits für die Nutzung durch jüngere Nutzer zu implementieren. Darüber hinaus müssten KI-Unternehmen die Zustimmung von Erziehungsberechtigten einholen, bevor sie Kindern emotionale Begleitdienste anbieten. Die Regeln zielen auch darauf ab, zu verhindern, dass KI-Modelle Inhalte generieren, die Glücksspiel fördern, was breitere Bedenken hinsichtlich des Potenzials von KI widerspiegelt, in einer Weise eingesetzt zu werden, die sich nachteilig auf die Gesellschaft auswirken könnte.

Eine Schlüsselbestimmung befasst sich mit dem Risiko, dass KI-Chatbots Ratschläge geben, die zu Selbstverletzung oder Gewalt führen könnten. Gemäß den vorgeschlagenen Regeln wären Chatbot-Betreiber verpflichtet, einen Menschen eine Konversation über Selbstmord oder Selbstverletzung übernehmen zu lassen. Der Betreiber müsste gemäß der CAC auch unverzüglich den Erziehungsberechtigten des Nutzers oder einen Notfallkontakt benachrichtigen.

Diese Vorschriften kommen inmitten eines rapiden Anstiegs der Anzahl von KI-Chatbots, die sowohl in China als auch weltweit auf den Markt gebracht werden. Der Schritt signalisiert eine bedeutende Anstrengung zur Regulierung des schnell wachsenden KI-Sektors, der zunehmend wegen Sicherheitsbedenken in die Kritik geraten ist. Nach ihrer Fertigstellung gelten die Regeln für alle KI-Produkte und -Dienstleistungen, die innerhalb Chinas betrieben werden.

Die Entwicklung unterstreicht die wachsende globale Debatte über die ethischen Implikationen von KI und die Notwendigkeit regulatorischer Rahmenbedingungen zur Minderung potenzieller Risiken. Da die KI-Technologie immer ausgefeilter wird und in das tägliche Leben integriert wird, ringen Regierungen und Organisationen damit, wie eine verantwortungsvolle Entwicklung und Bereitstellung sichergestellt werden kann. Die chinesischen Vorschriften stellen einen Ansatz zur Bewältigung dieser Herausforderungen dar, der sich auf bestimmte Problembereiche wie den Schutz von Kindern und die Prävention schädlicher Inhalte konzentriert. Die CAC hat noch keinen Zeitplan für die Fertigstellung und Umsetzung der Entwurfsregeln bekannt gegeben.