中国は、人工知能（AI）開発を対象とした新たな規制案を発表し、子供たちの保護や、自傷行為や暴力を誘発する可能性のあるAI主導のコンテンツの防止に重点を置いています。中国サイバースペース管理局（CAC）は週末に規則案を公表し、AI企業が若いユーザー向けにパーソナライズされた設定や利用時間制限を実装するための措置を概説しました。

提案された規則は、中国および世界中で急速に普及しているAIチャットボットに対処するもので、開発者は感情的なコンパニオンシップサービスを提供する前に保護者の同意を得ることを義務付けています。さらに、この規制は、自殺または自傷行為に関連するチャットボットの会話に人間の介入を義務付け、ユーザーの保護者または緊急連絡先に直ちに通知することを求めています。また、この規則は、AIモデルがギャンブルを助長するコンテンツを生成することを禁止しています。

これらの規制は、安全性と倫理的な影響に関する懸念が高まっている中国における急速に進化するAIの状況を規制する上で重要な一歩となります。この規則は、中国国内で運営されているAI製品およびサービスに適用されます。

CACの動きは、AIの社会的影響に取り組む政府の世界的な傾向の高まりを反映しています。AIは、本質的に、学習、問題解決、意思決定など、通常は人間の知能を必要とするタスクを実行できるコンピューターシステムを作成することを含みます。これらのシステムは、アルゴリズムと膨大な量のデータに依存して、パターンを識別し、予測を行います。AIのサブセットである生成AIは、テキスト、画像、オーディオなどの新しいコンテンツを作成でき、潜在的な悪用や誤った情報の拡散に関する懸念が高まっています。

提案された規制は、イノベーションと責任あるAI開発のバランスを取るという課題を浮き彫りにしています。AIシステムが安全で倫理的であり、社会に有益であることを保証するには、潜在的なリスクを慎重に検討し、適切な安全対策を実施する必要があります。中国政府による子供たちの保護と有害なコンテンツの防止への注力は、これらのリスクを軽減するための積極的なアプローチを反映しています。

規則案は現在審査中で、CACは最終決定と実施のスケジュールを発表していません。最終決定されると、この規制は中国のAI業界に大きな影響を与え、世界中のAI技術の開発と展開に影響を与える可能性があります。