اقترحت الصين لوائح جديدة تستهدف تطوير الذكاء الاصطناعي (AI)، مع التركيز على حماية الأطفال ومنع المحتوى الضار المتعلق بالانتحار والعنف. نشرت إدارة الفضاء الإلكتروني في الصين (CAC) مسودة القواعد خلال عطلة نهاية الأسبوع، تحدد متطلبات شركات الذكاء الاصطناعي العاملة داخل البلاد.

تتناول اللوائح المقترحة الانتشار المتزايد لروبوتات الدردشة المدعومة بالذكاء الاصطناعي وتأثيرها المحتمل على الفئات السكانية الضعيفة. سيُطلب من المطورين تنفيذ إعدادات مخصصة وحدود زمنية للأطفال الذين يستخدمون منتجات الذكاء الاصطناعي. علاوة على ذلك، تنص القواعد على الحصول على موافقة ولي الأمر قبل تقديم خدمات الرفقة العاطفية للقاصرين.

يركز بند رئيسي على منع الانتحار. وفقًا لإدارة الفضاء الإلكتروني في الصين، يجب على مشغلي روبوتات الدردشة ضمان التدخل البشري في أي محادثة تشير إلى أفكار انتحارية أو إيذاء النفس. تنص اللوائح على الإخطار الفوري لولي أمر المستخدم أو جهة اتصال الطوارئ في مثل هذه الحالات. تحظر القواعد أيضًا نماذج الذكاء الاصطناعي من إنشاء محتوى يشجع على المقامرة.

تمثل هذه الإجراءات خطوة مهمة نحو تنظيم مشهد الذكاء الاصطناعي سريع التطور في الصين. تأتي هذه الخطوة وسط تدقيق عالمي متزايد بشأن سلامة الآثار الأخلاقية لتقنيات الذكاء الاصطناعي. ستنطبق اللوائح على جميع منتجات وخدمات الذكاء الاصطناعي المقدمة داخل الصين بمجرد الانتهاء منها.

أثار صعود نماذج الذكاء الاصطناعي المتطورة، ولا سيما نماذج اللغة الكبيرة (LLMs) القادرة على إنشاء نصوص شبيهة بالنصوص البشرية والانخراط في محادثات معقدة، مخاوف بشأن سوء الاستخدام المحتمل والعواقب غير المقصودة. يتم تدريب نماذج اللغة الكبيرة على مجموعات بيانات ضخمة، مما يمكنها من أداء مجموعة واسعة من المهام، من الإجابة على الأسئلة إلى إنشاء محتوى أصلي. ومع ذلك، هذا يعني أيضًا أنها يمكن أن تكون عرضة للتحيزات الموجودة في بيانات التدريب ويمكن أن تولد معلومات ضارة أو مضللة.

تعكس مبادرة الحكومة الصينية نهجًا استباقيًا للتخفيف من هذه المخاطر، لا سيما فيما يتعلق برفاهية الأطفال. من خلال اشتراط موافقة الوالدين وتنفيذ ضمانات ضد المحتوى الضار، تهدف اللوائح إلى إنشاء بيئة آمنة عبر الإنترنت للمستخدمين الشباب. يسلط التركيز على التدخل البشري في حالات التفكير الانتحاري الضوء على أهمية الجمع بين الحلول التكنولوجية والدعم البشري.

مسودة القواعد قيد المراجعة حاليًا، ومن المتوقع أن تطلب إدارة الفضاء الإلكتروني في الصين تعليقات من أصحاب المصلحة في الصناعة والجمهور قبل الانتهاء من اللوائح. يمكن أن يضع تنفيذ هذه القواعد سابقة للدول الأخرى التي تتصارع مع تحديات تنظيم الذكاء الاصطناعي وضمان تطويره ونشره بشكل مسؤول. تشير اللوائح إلى الالتزام بتحقيق التوازن بين الابتكار التكنولوجي والرفاهية المجتمعية والاعتبارات الأخلاقية.