China hat neue Vorschriften zur Entwicklung künstlicher Intelligenz (KI) vorgeschlagen, die sich auf den Schutz von Kindern und die Verhinderung schädlicher Inhalte im Zusammenhang mit Selbstmord und Gewalt konzentrieren. Die Cyberspace Administration of China (CAC) veröffentlichte den Entwurf der Regeln am Wochenende und umriss Maßnahmen, die KI-Unternehmen dazu verpflichten würden, personalisierte Einstellungen und Zeitlimits für die Nutzung zu implementieren sowie die Zustimmung der Erziehungsberechtigten einzuholen, bevor sie Minderjährigen emotionale Begleitdienste anbieten.

Die vorgeschlagenen Regeln befassen sich mit der rasanten Verbreitung von KI-Chatbots sowohl innerhalb Chinas als auch weltweit. Nach ihrer Fertigstellung gelten sie für alle KI-Produkte und -Dienstleistungen, die in China betrieben werden, was einen bedeutenden regulatorischen Schritt als Reaktion auf wachsende Sicherheitsbedenken im Zusammenhang mit der Technologie darstellt. Die Vorschriften legen auch fest, dass KI-Modelle keine Inhalte generieren dürfen, die Glücksspiel fördern.

Eine Schlüsselbestimmung konzentriert sich auf die Intervention in Fällen potenzieller Selbstschädigung. Laut CAC müssen Chatbot-Betreiber einen Menschen die Konversation übernehmen lassen, wenn es um Selbstmord oder Selbstverletzung geht. Darüber hinaus müssen sie unverzüglich den Erziehungsberechtigten des Nutzers oder einen Notfallkontakt benachrichtigen.

Diese Vorschriften kommen inmitten einer zunehmenden globalen Kontrolle von KI und ihren potenziellen gesellschaftlichen Auswirkungen. KI beinhaltet im Kern die Schaffung von Computersystemen, die in der Lage sind, Aufgaben auszuführen, die typischerweise menschliche Intelligenz erfordern, wie z. B. Lernen, Problemlösung und Entscheidungsfindung. Generative KI, eine Untergruppe der KI, kann neue Inhalte erstellen, darunter Text, Bilder und Audio, was Bedenken hinsichtlich potenziellen Missbrauchs und der Verbreitung von Fehlinformationen aufwirft.

Der Schritt der chinesischen Regierung spiegelt einen breiteren Trend wider, bei dem Regierungen weltweit damit ringen, wie sie diese sich schnell entwickelnde Technologie regulieren können. Die Europäische Union beispielsweise arbeitet an einem eigenen umfassenden KI-Gesetz. Diese regulatorischen Bemühungen zielen darauf ab, die potenziellen Vorteile von KI mit der Notwendigkeit in Einklang zu bringen, Risiken in Bezug auf Voreingenommenheit, Datenschutz und Sicherheit zu mindern.

Die Entwurfsregeln sind derzeit für öffentliche Kommentare offen. Der genaue Zeitplan für die Fertigstellung und Umsetzung bleibt unklar, aber die Ankündigung unterstreicht Chinas Absicht, die Entwicklung und den Einsatz von KI innerhalb seiner Grenzen aktiv zu gestalten. Die Vorschriften könnten potenziell eine breite Palette von KI-Anwendungen betreffen, von Bildungswerkzeugen bis hin zu Unterhaltungsplattformen, und als Modell für andere Länder dienen, die ähnliche Maßnahmen in Erwägung ziehen.