أصدر المدعي العام لولاية كاليفورنيا، روب بونتا، يوم الجمعة، خطاب وقف وكف إلى شركة xAI، مطالباً الشركة بالتوقف الفوري عن إنشاء وتوزيع الصور العميقة المزيفة (deepfake) والحميمية غير الرضائية ومواد الاعتداء الجنسي على الأطفال (CSAM). يأتي هذا الإجراء في أعقاب إعلان سابق من مكتب المدعي العام بأنه يحقق مع شركة xAI، وهي شركة ناشئة في مجال الذكاء الاصطناعي يملكها إيلون ماسك، بشأن تقارير تفيد بأن برنامج الدردشة الآلي الخاص بها، Grok، يُستخدم لإنشاء صور جنسية غير رضائية لنساء وقاصرين.
يزعم مكتب المدعي العام أن شركة xAI تسهل الإنتاج واسع النطاق للصور العارية غير الرضائية، والتي تُستخدم بعد ذلك لمضايقة النساء والفتيات عبر الإنترنت. وقال بونتا في بيان صحفي: "اليوم، أرسلت إلى xAI خطاب وقف وكف، مطالباً الشركة بالتوقف الفوري عن إنشاء وتوزيع الصور العميقة المزيفة والحميمية غير الرضائية ومواد الاعتداء الجنسي على الأطفال". وأضاف: "إن إنشاء هذه المواد غير قانوني. أتوقع تمامًا أن تمتثل xAI على الفور. ولاية كاليفورنيا لا تتسامح مطلقًا مع مواد الاعتداء الجنسي على الأطفال".
في قلب الجدل ميزة "الوضع الحار" (spicy mode) في Grok، والتي أنشأتها xAI للسماح بردود أكثر تحررًا وربما مثيرة للجدل من الذكاء الاصطناعي. يبدو أن هذه الميزة، التي تهدف إلى تجاوز حدود التفاعل مع الذكاء الاصطناعي، قد فتحت الباب أمام إنشاء محتوى ضار وغير قانوني. يمكن للصور العميقة المزيفة، وهي وسائط اصطناعية تم إنشاؤها بواسطة الذكاء الاصطناعي، أن تصور بشكل مقنع الأفراد وهم يفعلون أو يقولون أشياء لم يفعلوها أبدًا، مما يثير مخاوف جدية بشأن التشهير وانتهاكات الخصوصية واحتمال إساءة استخدامها في إنشاء مواد إباحية غير رضائية.
منح مكتب المدعي العام شركة xAI خمسة أيام لإثبات أنها تتخذ خطوات ملموسة لمعالجة هذه المشكلات. يسلط التحقيق الضوء على التحديات المتزايدة لتنظيم المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي وإمكانية إساءة استخدام أدوات الذكاء الاصطناعي القوية. كما يثير تساؤلات حول مسؤولية مطوري الذكاء الاصطناعي لمنع استخدام تقنياتهم لأغراض خبيثة.
أثار صعود نماذج الذكاء الاصطناعي التوليدية مثل Grok جدلاً حول الآثار الأخلاقية للذكاء الاصطناعي والحاجة إلى ضمانات قوية. يؤكد الخبراء على أهمية تطوير أنظمة الذكاء الاصطناعي بآليات أمان مدمجة وسياسات للإشراف على المحتوى لمنع إنشاء ونشر المحتوى الضار. يعد تحقيق المدعي العام في كاليفورنيا في شركة xAI جزءًا من جهد أوسع لمحاسبة شركات التكنولوجيا عن الأضرار المحتملة التي تسببها تقنيات الذكاء الاصطناعي الخاصة بها وحماية الأفراد من الاستغلال والإيذاء عبر الإنترنت. يمكن أن تحدد نتيجة هذا التحقيق سابقة لكيفية تنظيم شركات الذكاء الاصطناعي وتحميلها المسؤولية عن المحتوى الذي تنشئه منصاتها.
Discussion
Join the conversation
Be the first to comment