China hat neue Vorschriften vorgeschlagen, die auf die Entwicklung künstlicher Intelligenz (KI) abzielen und sich auf den Schutz von Kindern und die Verhinderung von KI-gesteuerten Inhalten konzentrieren, die zu Selbstverletzung oder Gewalt führen könnten. Die Cyberspace Administration of China (CAC) veröffentlichte den Entwurf der Regeln am Wochenende und umreißt Maßnahmen für KI-Unternehmen zur Implementierung personalisierter Einstellungen und Zeitlimits für die Nutzung durch jüngere Nutzer.

Die vorgeschlagenen Regeln befassen sich mit der rasanten Verbreitung von KI-Chatbots in China und weltweit und verpflichten Entwickler, die Zustimmung der Erziehungsberechtigten einzuholen, bevor sie emotionale Begleitdienste anbieten. Darüber hinaus schreiben die Vorschriften eine menschliche Intervention in Chatbot-Gespräche im Zusammenhang mit Selbstmord oder Selbstverletzung vor, mit sofortiger Benachrichtigung des Erziehungsberechtigten oder Notfallkontakts des Nutzers. Die Regeln verbieten auch KI-Modellen die Erstellung von Inhalten, die Glücksspiel fördern.

Diese Vorschriften stellen einen bedeutenden Schritt zur Regulierung der sich schnell entwickelnden KI-Landschaft in China dar, wo die Besorgnis über Sicherheit und ethische Implikationen zugenommen hat. Die Regeln gelten für KI-Produkte und -Dienstleistungen, die innerhalb Chinas betrieben werden.

Der Schritt der CAC spiegelt einen wachsenden globalen Trend wider, bei dem Regierungen mit den gesellschaftlichen Auswirkungen von KI zu kämpfen haben. KI beinhaltet im Kern die Schaffung von Computersystemen, die in der Lage sind, Aufgaben auszuführen, die typischerweise menschliche Intelligenz erfordern, wie z. B. Lernen, Problemlösung und Entscheidungsfindung. Diese Systeme stützen sich auf Algorithmen und riesige Datenmengen, um Muster zu erkennen und Vorhersagen zu treffen. Generative KI, eine Untergruppe der KI, kann neue Inhalte erstellen, darunter Text, Bilder und Audio, was Bedenken hinsichtlich potenziellen Missbrauchs und der Verbreitung von Fehlinformationen aufwirft.

Die vorgeschlagenen Vorschriften verdeutlichen die Herausforderungen, Innovation mit verantwortungsvoller KI-Entwicklung in Einklang zu bringen. Um sicherzustellen, dass KI-Systeme sicher, ethisch und für die Gesellschaft von Vorteil sind, ist eine sorgfältige Abwägung potenzieller Risiken und die Implementierung geeigneter Schutzmaßnahmen erforderlich. Der Fokus der chinesischen Regierung auf den Schutz von Kindern und die Verhinderung schädlicher Inhalte spiegelt einen proaktiven Ansatz zur Minderung dieser Risiken wider.

Die Entwurfsregeln werden derzeit überprüft, und die CAC hat noch keinen Zeitplan für ihre Fertigstellung und Umsetzung bekannt gegeben. Nach der Fertigstellung werden die Vorschriften voraussichtlich erhebliche Auswirkungen auf die KI-Industrie in China haben und möglicherweise die Entwicklung und den Einsatz von KI-Technologien weltweit beeinflussen.