中国は、人工知能（AI）を規制する新たな規則案を提示しており、その目的は、子供たちを保護し、AIチャットボットが自傷行為や暴力を誘発する可能性のあるアドバイスを提供することを防ぐことにある。中国サイバースペース管理局（CAC）は週末に規則案を公表し、AI企業に対し、パーソナライズされた設定や利用時間制限を提供すること、および感情的な寄り添いサービスを提供する前に保護者の同意を得ることを義務付ける措置を概説した。

計画されている規則では、開発者はAIモデルがギャンブルを助長するコンテンツを生成しないようにすることも義務付けられる。この発表は、中国および世界中でAIチャットボットの数が大幅に増加していることを受けて行われた。これらの規則は、最終決定されると、中国国内で運営されているすべてのAI製品およびサービスに適用される。

この動きは、急速に成長しているAI技術を規制するための重要な一歩であり、AI技術は今年一年を通して安全性への懸念に関する監視の目が厳しくなっている。CACは、自殺または自傷行為に関連するチャットボットの会話には人間の介入が必要であることを強調し、オペレーターに対し、そのような会話を人間が引き継ぎ、ユーザーの保護者または緊急連絡先に直ちに通知することを義務付けた。

これらの規則は、ますます高度化するAIシステムに関連する潜在的なリスクに対する世界的な懸念の高まりを反映している。AIは、本質的に、学習、問題解決、意思決定など、通常は人間の知能を必要とするタスクを実行できるコンピューターシステムを作成することを含む。AIのサブセットである生成AIは、学習したデータに基づいて、テキスト、画像、オーディオなどの新しいコンテンツを作成できる。この機能により、チャットボットやその他のAI駆動型アプリケーションが急増している。

これらの規則の影響は中国の国境を越えて広がり、世界中のAI技術の開発と展開に影響を与える可能性がある。子供たちの保護とメンタルヘルスのリスクへの対処に重点を置いていることは、AIに関する議論の中心になりつつある倫理的な考慮事項を浮き彫りにしている。AIが進化し続けるにつれて、政府や組織は、イノベーションと潜在的な危害を軽減する必要性とのバランスを取るという課題に取り組んでいる。

規則案は現在審査中であり、CACは最終決定と実施のスケジュールをまだ発表していない。これらの規則を施行するための具体的なメカニズムと、違反した場合の潜在的な罰則はまだ不明である。しかし、提案された規則は、中国政府がAIの未来を形成し、その責任ある開発を確保するために、積極的な役割を果たすという明確な意図を示している。