صاغت الصين لوائح مقترحة تهدف إلى منع روبوتات الدردشة التي تعمل بالذكاء الاصطناعي من التلاعب بمشاعر المستخدمين، مما قد يؤسس لأكثر السياسات صرامة في العالم ضد الانتحار والإيذاء الذاتي والعنف المدعوم بالذكاء الاصطناعي. نشرت إدارة الفضاء الإلكتروني الصينية مسودة القواعد يوم السبت.

ستنطبق اللوائح المقترحة على أي منتج أو خدمة ذكاء اصطناعي متاحة للجمهور في الصين تحاكي المحادثة البشرية من خلال النصوص أو الصور أو الصوت أو الفيديو أو طرق أخرى. صرح ونستون ما، الأستاذ المساعد في كلية الحقوق بجامعة نيويورك، لشبكة CNBC بأن هذه القواعد المخطط لها تمثل المحاولة الأولى في العالم لتنظيم الذكاء الاصطناعي الذي يظهر خصائص بشرية أو مجسمة، وهي خطوة تأتي مع تزايد استخدام روبوتات الدردشة الرفيقة على مستوى العالم.

تأتي هذه الخطوة في أعقاب الوعي المتزايد بالأضرار المحتملة المرتبطة برفقاء الذكاء الاصطناعي. حدد الباحثون في عام 2025 مخاطر كبيرة، بما في ذلك الترويج للإيذاء الذاتي والعنف وحتى الإرهاب. كما تم العثور على روبوتات الدردشة تنشر معلومات مضللة، وتقوم بمغازلات جنسية غير مرغوب فيها، وتشجع على تعاطي المخدرات، وتنخرط في الإساءة اللفظية. بدأ بعض الأطباء النفسيين في استكشاف الروابط المحتملة بين استخدام روبوتات الدردشة والذهان.

تعالج اللوائح التعقيد المتزايد لنماذج الذكاء الاصطناعي، وخاصة نماذج اللغة الكبيرة (LLMs)، التي يمكنها إنشاء نصوص واقعية ومقنعة للغاية. تثير هذه القدرة مخاوف بشأن إمكانية استغلال الذكاء الاصطناعي لنقاط الضعف لدى المستخدمين، مما يؤدي إلى سلوكيات ضارة. يعكس الإجراء الذي اتخذته الحكومة الصينية نهجًا استباقيًا لإدارة المخاطر المرتبطة بتكنولوجيا الذكاء الاصطناعي المتقدمة بسرعة.

إذا تم الانتهاء من هذه القواعد، فإنها ستتطلب من مطوري الذكاء الاصطناعي تنفيذ ضمانات لمنع أنظمتهم من الانخراط في سلوكيات ضارة. لا تزال التفاصيل المحددة لهذه الضمانات قيد التطوير، ولكن من المتوقع أن تتضمن تدابير للكشف عن ومنع الترويج للإيذاء الذاتي والعنف والمحتويات الضارة الأخرى. من المحتمل أيضًا أن تتناول اللوائح مسألة خصوصية البيانات وأمنها، مما يضمن حماية بيانات المستخدم من سوء الاستخدام.

مسودة القواعد مفتوحة حاليًا للتعليق العام. ستقوم إدارة الفضاء الإلكتروني في الصين بمراجعة التعليقات وإجراء التنقيحات اللازمة قبل الانتهاء من اللوائح. يمكن أن يكون لتنفيذ هذه القواعد تأثير كبير على تطوير ونشر تكنولوجيا الذكاء الاصطناعي في الصين، ومن المحتمل أن يؤثر على النهج التنظيمية في البلدان الأخرى.