中国は、人工知能（AI）製品およびサービスを規制する新たな規則案を提示しており、子供たちの保護と有害コンテンツの防止に重点を置いています。中国サイバースペース管理局（CAC）は週末に規則案を公表し、AIに関連する潜在的なリスクから子供たちを保護するための措置や、チャットボットが自傷行為や暴力につながる可能性のあるアドバイスを提供することを防ぐための措置を概説しました。

規則案では、AI企業に対し、子供のユーザー向けにパーソナライズされた設定と利用時間制限を提供することを義務付けています。さらに、AI企業は、未成年者に感情的な寄り添いサービスを提供する前に、保護者の同意を得る必要があります。規則はまた、AI生成コンテンツの問題にも対処しており、AIモデルはギャンブルを助長するコンテンツを生成してはならないと規定しています。

CACによると、チャットボットの運営者は、自殺または自傷行為に関連する会話が発生した場合、人間のオペレーターが対応を引き継ぐ必要があります。これらのオペレーターはまた、そのような状況において、ユーザーの保護者または緊急連絡先に直ちに通知する必要があります。

AI規制への動きは、中国および世界中でチャットボットの数が急増している中で行われています。AI技術の急速な発展は、安全性と潜在的な悪用に関する懸念を引き起こしており、世界中の政府が規制の枠組みを検討するきっかけとなっています。これらの規則は、最終決定されると、中国国内で運営されているすべてのAI製品およびサービスに適用されます。これは、急速に成長する技術を規制するための重要な一歩となります。

規則案は、AIに関連する潜在的なリスク、特に子供のような脆弱な人々に対するリスクに対する意識の高まりを反映しています。保護者の同意を義務付け、時間制限を設けることで、規則はAIが子供の発達と幸福に及ぼす可能性のある悪影響を軽減することを目的としています。ギャンブルや自傷行為のような有害な活動をAIが助長することを防ぐことに重点を置いていることは、AIが責任を持って倫理的に使用されるようにするという政府のコミットメントを強調しています。

CACの規則案は現在草案段階にあり、最終決定および実施される前に、さらなる検討と修正を受けることが予想されます。この動向は、AI開発者、テクノロジー企業、および世界中の政策立案者によって注意深く見守られており、他の国におけるAI規制の先例となる可能性があります。