中国は、人工知能（AI）製品およびサービスを規制する新たな規則案を提示しており、子供たちの保護と有害コンテンツの防止に重点を置いています。中国サイバースペース管理局（CAC）は週末に規則案を公表し、AI開発者が未成年者を保護し、自殺や暴力に関連する潜在的なリスクに対処するために実施しなければならない措置を概説しました。

提案された規則では、AI企業は子供のユーザー向けにパーソナライズされた設定と利用時間制限を提供することが義務付けられています。また、感情的なコンパニオンシップサービスを提供する前に、保護者からの同意を得ることも義務付けています。この動きは、特にAI搭載チャットボットの利用可能性の増加など、AIが若者に与える潜在的な影響に対する懸念の高まりを受けて行われたものです。

CACによると、チャットボットの運営者は、自殺または自傷行為に関連する会話が発生した場合、人間のオペレーターが引き継ぐことが義務付けられます。さらに、そのような状況下では、ユーザーの保護者または緊急連絡先に直ちに通知しなければなりません。規則はまた、AIモデルがギャンブルを助長するコンテンツを生成することを防ぐことも目的としています。

この規則は、中国における急速に進化するAIの状況を規制するための重要な一歩となります。この技術は、安全性の懸念から今年に入り、監視の目が厳しくなっています。規則は、最終決定されれば、国内で運営されているすべてのAI製品およびサービスに適用されます。

この動きは、AIに対する規制上の注目が高まっている世界的な傾向を反映しています。世界中の政府は、AIの利点を活用しながら、潜在的なリスクを軽減するという課題に取り組んでいます。たとえば、欧州連合は独自の包括的なAI法に取り組んでいます。

中国政府が子供たちの保護と有害コンテンツの防止に重点を置いていることは、責任あるAI開発を促進するためのより広範な取り組みと一致しています。この規則は、AI技術の倫理的および社会的な影響を考慮することの重要性を強調しています。

CACは、規則を最終決定するためのスケジュールをまだ発表していません。規則案は現在、パブリックコメントを募集しており、当局は新しい措置を実施する前にフィードバックを検討すると予想されます。この動きは、中国のAI業界に大きな影響を与え、国内におけるAI技術の開発と展開を左右する可能性があります。