قدم عضو مجلس الشيوخ في ولاية كاليفورنيا، ستيف باديلا، وهو ديمقراطي، يوم الاثنين مشروع قانون يقترح حظرًا لمدة أربع سنوات على بيع وتصنيع الألعاب التي تتضمن تقنية روبوتات الدردشة المدعومة بالذكاء الاصطناعي للأطفال دون سن 18 عامًا. يهدف التشريع المقترح، والمسمى SB 867، إلى تزويد منظمي السلامة بوقت كافٍ لتطوير لوائح شاملة تحمي الأطفال من التفاعلات الضارة المحتملة مع الذكاء الاصطناعي.

صرح السيناتور باديلا بأنه في حين أن أدوات الذكاء الاصطناعي مثل روبوتات الدردشة قد تصبح منتشرة بشكل متزايد، فإن النقص الحالي في لوائح السلامة يستلزم اتخاذ تدابير استباقية لحماية الأطفال. وقال باديلا في بيان: "قد تصبح روبوتات الدردشة وأدوات الذكاء الاصطناعي الأخرى جزءًا لا يتجزأ من حياتنا في المستقبل، لكن المخاطر التي تشكلها الآن تتطلب منا اتخاذ إجراءات جريئة لحماية أطفالنا". وشدد على الحاجة إلى تطوير لوائح السلامة جنبًا إلى جنب مع التطورات السريعة في قدرات الذكاء الاصطناعي، مؤكدًا أن الحظر المؤقت سيسمح بإنشاء مبادئ توجيهية وأطر سلامة مناسبة لهذه الأنواع من الألعاب.

يأتي تقديم مشروع القانون في أعقاب الأمر التنفيذي الأخير للرئيس ترامب الذي يتحدى قوانين الذكاء الاصطناعي للولاية في المحكمة. ومع ذلك، يتضمن الأمر استثناءات لقوانين الولاية المتعلقة بسلامة الطفل. يأتي التشريع المقترح أيضًا بعد عدة حوادث تتعلق بروبوتات الدردشة المدعومة بالذكاء الاصطناعي والأطفال أثارت مخاوف. وتشمل هذه الحوادث دعاوى قضائية رفعتها عائلات تعرض أطفالها لتفاعلات سلبية.

تستخدم روبوتات الدردشة المدعومة بالذكاء الاصطناعي معالجة اللغة الطبيعية (NLP) وخوارزميات التعلم الآلي لمحاكاة المحادثة البشرية. في الألعاب، يمكن لروبوتات الدردشة هذه توفير تجارب تفاعلية، والإجابة على الأسئلة، وسرد القصص، أو الانخراط في سيناريوهات لعب الأدوار. ومع ذلك، أثار الخبراء مخاوف بشأن احتمال قيام روبوتات الدردشة هذه بجمع البيانات الشخصية، أو تعريض الأطفال لمحتوى غير لائق، أو الانخراط في محادثات تلاعبية أو استغلالية.

يمكن أن يؤثر الحظر المقترح بشكل كبير على صناعة الألعاب، وخاصة الشركات التي بدأت في دمج تقنية روبوتات الدردشة المدعومة بالذكاء الاصطناعي في منتجاتها. سيوقف الحظر بيع المنتجات الحالية ويمنع طرح ألعاب جديدة تعمل بالذكاء الاصطناعي طوال فترة الأربع سنوات. ستسمح هذه الهدنة للمنظمين بدراسة التكنولوجيا وتطوير معايير السلامة المناسبة.

سيمر مشروع القانون الآن بالعملية التشريعية في كاليفورنيا، بما في ذلك جلسات الاستماع في اللجان والتصويت في كل من مجلس الشيوخ والجمعية العامة للولاية. إذا أقره المجلس التشريعي ووقعه الحاكم ليصبح قانونًا، فسيبدأ الحظر ساري المفعول على الفور. يعتمد مستقبل الألعاب التي تعمل بالذكاء الاصطناعي في كاليفورنيا على نتيجة هذه العملية التشريعية والتطوير اللاحق للوائح السلامة.