中国は、人工知能（AI）製品およびサービスを規制する新たな規則案を提示しており、子供の保護と有害コンテンツの防止に重点を置いています。中国サイバースペース管理局（CAC）は週末に規則案を発表し、AIモデルがギャンブルを助長するコンテンツを生成しないようにし、自傷行為や暴力のリスクから保護するための措置を概説しました。

提案された規則は、AIチャットボットの普及とその潜在的な影響、特に脆弱な人々への影響に対処するものです。AI企業は、子供のユーザー向けにパーソナライズされた設定と利用時間制限を提供することが義務付けられます。さらに、開発者はAIを通じて感情的なコンパニオンシップサービスを提供する前に、保護者の同意を得なければなりません。

重要な条項として、自殺または自傷行為に関連するチャットボットの会話には、人間の介入が義務付けられています。CACによると、チャットボットの運営者は、そのような会話を人間が引き継ぎ、ユーザーの保護者または緊急連絡先に直ちに通知する必要があります。

これらの規制は、中国における急速に進化するAIの状況を規制するための重要な一歩となります。この動きは、AI技術の安全性と倫理的な影響に対する世界的な懸念の高まりを反映しています。今年はAIの安全性に対する集中的な監視が行われ、世界中の政府や組織が規制の枠組みを検討するようになりました。

パーソナライズされた設定、時間制限、および保護者の同意に関する具体的な要件は、中国の規制アプローチにおける子供の保護への重点を強調しています。デリケートな会話における人間の介入を義務付ける規則は、複雑な感情的な状況を処理する上での現在のAI技術の限界を浮き彫りにしています。

これらの規制は、最終決定されると、中国国内で運営されているすべてのAI製品およびサービスに適用されます。CACの発表は、中国および国際的にAIチャットボットの開発と展開が急増したことを受けて行われました。新しい規則は、このAI主導のインタラクションの普及に伴う潜在的なリスクに対処することを目的としています。

規則案は現在審査中で、CACは最終決定と実施のスケジュールをまだ発表していません。この動向は、AI開発者、テクノロジー企業、および世界中の政策立案者によって注意深く見守られており、他の国におけるAI規制の先例となる可能性があります。