قدّم عضو مجلس الشيوخ في ولاية كاليفورنيا، ستيف باديلا، وهو ديمقراطي، يوم الاثنين مشروع قانون يقترح حظرًا لمدة أربع سنوات على بيع وتصنيع الألعاب التي تتضمن تقنية روبوتات الدردشة المدعومة بالذكاء الاصطناعي للأفراد الذين تقل أعمارهم عن 18 عامًا. يهدف التشريع المقترح، والمسمى SB 867، إلى تزويد الجهات التنظيمية بوقت كافٍ لتطوير بروتوكولات السلامة لحماية الأطفال من التفاعلات الضارة المحتملة مع الذكاء الاصطناعي.

صرح السيناتور باديلا بأنه في حين أن روبوتات الدردشة المدعومة بالذكاء الاصطناعي والأدوات ذات الصلة قد تصبح ضرورية في المستقبل، فإن المخاطر الحالية تستلزم اتخاذ إجراءات حاسمة لحماية الأطفال. وأكد على الحالة الناشئة لأنظمة السلامة المحيطة بهذه التكنولوجيا، مشيرًا إلى الحاجة إلى تطويرها بوتيرة تتناسب مع التطورات السريعة في قدرات الذكاء الاصطناعي. وقال باديلا في بيان: "إن إيقاف بيع هذه الألعاب المدمجة بروبوتات الدردشة يتيح لنا الوقت لصياغة إرشادات وإطار السلامة المناسبين لهذه الألعاب لاتباعها".

يأتي مشروع القانون في أعقاب الأمر التنفيذي الأخير للرئيس ترامب الذي يوجه الوكالات الفيدرالية إلى الطعن في قوانين الذكاء الاصطناعي للولاية في المحكمة. ومع ذلك، يتضمن الأمر استثناءات محددة لقوانين الولاية المتعلقة بسلامة الأطفال، مما قد يحمي SB 867 من الطعون الفيدرالية. كما يأتي تقديم مشروع القانون في أعقاب عدة حوادث تم الإبلاغ عنها تثير مخاوف بشأن التفاعل بين روبوتات الدردشة المدعومة بالذكاء الاصطناعي والأطفال.

تشير روبوتات الدردشة المدعومة بالذكاء الاصطناعي، في هذا السياق، إلى برامج الكمبيوتر المصممة لمحاكاة المحادثة مع المستخدمين البشريين، وغالبًا ما تستخدم خوارزميات التعلم الآلي لفهم اللغة الطبيعية والاستجابة لها. في الألعاب، يمكن لروبوتات الدردشة هذه جمع البيانات الشخصية أو تقديم استجابات غير لائقة أو تعريض الأطفال لمحتوى ضار. تعتمد التكنولوجيا عادةً على معالجة اللغة الطبيعية (NLP) ونماذج التعلم الآلي، والتي يتم تدريبها على مجموعات بيانات واسعة لتمكين القدرات التحادثية.

يمكن أن يؤثر الحظر المقترح بشكل كبير على صناعة الألعاب، وخاصة الشركات التي بدأت في دمج وظائف روبوتات الدردشة المدعومة بالذكاء الاصطناعي في منتجاتها. ستحتاج الصناعة إلى النظر في آثار الحظر على تطوير المنتجات واستراتيجيات المبيعات في كاليفورنيا، وهي سوق رئيسي للألعاب.

يعتمد مستقبل مشروع القانون على تقدمه عبر مجلس الشيوخ ومجلس النواب في ولاية كاليفورنيا، يليه احتمال الموافقة من الحاكم. من المحتمل أن تتضمن العملية التشريعية مناقشات وتعديلات ومدخلات من مختلف أصحاب المصلحة، بما في ذلك شركات التكنولوجيا والمدافعين عن سلامة الأطفال والخبراء القانونيون. يمكن أن تحدد نتيجة SB 867 سابقة للولايات الأخرى التي تفكر في لوائح مماثلة بشأن الألعاب والتقنيات التي تعمل بالذكاء الاصطناعي.