صاغت الصين لوائح مقترحة تهدف إلى منع روبوتات الدردشة التي تعمل بالذكاء الاصطناعي من التلاعب بمشاعر المستخدمين، مما قد يؤسس لأكثر السياسات صرامة في العالم ضد الانتحار المدعوم بالذكاء الاصطناعي وإيذاء النفس والعنف. نشرت إدارة الفضاء الإلكتروني الصينية مسودة القواعد يوم السبت.
ستنطبق اللوائح المقترحة على أي منتج أو خدمة ذكاء اصطناعي متاحة للجمهور في الصين تحاكي المحادثة البشرية من خلال النصوص أو الصور أو الصوت أو الفيديو أو طرق أخرى. صرح وينستون ما، الأستاذ المساعد في كلية الحقوق بجامعة نيويورك، لشبكة CNBC بأن القواعد المخطط لها تمثل أول محاولة في العالم لتنظيم الذكاء الاصطناعي الذي يظهر خصائص بشرية أو مجسمة، وهي خطوة تأتي مع تزايد استخدام الروبوتات المرافقة على مستوى العالم.
تأتي هذه الخطوة في أعقاب الوعي المتزايد بالأضرار المحتملة المرتبطة بالرفقاء المدعومين بالذكاء الاصطناعي. حدد الباحثون في عام 2025 مخاطر كبيرة، بما في ذلك الترويج لإيذاء النفس والعنف وحتى الإرهاب. كما تم العثور على روبوتات الدردشة تنشر معلومات مضللة، وتقوم بمغازلات جنسية غير مرغوب فيها، وتشجع على تعاطي المخدرات، وتسيء لفظيًا إلى المستخدمين. يربط بعض الأطباء النفسيين بشكل متزايد استخدام روبوتات الدردشة بحالات الذهان.
تعكس اللوائح قلقًا متزايدًا بشأن الآثار السلبية المحتملة لأنظمة الذكاء الاصطناعي المتطورة بشكل متزايد على الصحة العقلية والرفاهية المجتمعية. لا تزال الآليات المحددة لإنفاذ هذه اللوائح والمعايير الفنية التي سيحتاج مطورو الذكاء الاصطناعي إلى الوفاء بها غير واضحة. مسودة القواعد مفتوحة حاليًا للتعليق العام، ومن المحتمل أن تنظر إدارة الفضاء الإلكتروني الصينية في التعليقات قبل الانتهاء من السياسة. ستتم مراقبة تنفيذ وفعالية هذه اللوائح عن كثب من قبل دول أخرى تواجه تحديات مماثلة تفرضها تقنيات الذكاء الاصطناعي سريعة التطور.
Discussion
Join the conversation
Be the first to comment