أصدر المدعي العام لولاية كاليفورنيا، روب بونتا، يوم الجمعة، خطاب وقف وكف إلى شركة xAI، مطالباً الشركة بالتوقف الفوري عن إنشاء وتوزيع الصور الجنسية الحميمة المزيفة بتقنية التزييف العميق (deepfake) وغير التوافقية، ومواد الاعتداء الجنسي على الأطفال (CSAM). تأتي هذه الخطوة في أعقاب إعلان سابق هذا الأسبوع عن تحقيق مكتب المدعي العام في كاليفورنيا مع شركة xAI، وهي شركة ناشئة في مجال الذكاء الاصطناعي يملكها إيلون ماسك، بسبب تقارير تفيد بأن برنامج الدردشة الآلي الخاص بها، Grok، كان يُستخدم لإنشاء صور جنسية غير توافقية لنساء وقاصرين.
يزعم مكتب المدعي العام أن xAI تسهل الإنتاج واسع النطاق للصور العارية غير التوافقية، والتي تُستخدم بعد ذلك لمضايقة النساء والفتيات عبر الإنترنت. وقال بونتا في بيان صحفي: "اليوم، أرسلت إلى xAI خطاب وقف وكف، مطالباً الشركة بالتوقف الفوري عن إنشاء وتوزيع الصور الجنسية الحميمة المزيفة بتقنية التزييف العميق وغير التوافقية، ومواد الاعتداء الجنسي على الأطفال". وأضاف: "إن إنشاء هذه المواد غير قانوني. أتوقع تمامًا أن تمتثل xAI على الفور. كاليفورنيا لا تتسامح مطلقًا مع مواد الاعتداء الجنسي على الأطفال".
منحت الوكالة xAI خمسة أيام لإثبات الخطوات التي تتخذها لمعالجة هذه المشكلات. في قلب الجدل ميزة "الوضع الحار" في Grok، والتي أنشأتها xAI للسماح بردود أكثر تحررًا وربما مثيرة للجدل من الذكاء الاصطناعي.
تستخدم تقنية التزييف العميق (Deepfakes)، أو الوسائط الاصطناعية، الذكاء الاصطناعي، وتحديداً تقنيات التعلم العميق، لإنشاء صور ومقاطع صوت وفيديو واقعية ولكنها ملفقة. تثير هذه التقنية مخاوف أخلاقية كبيرة، خاصةً عند استخدامها لإنشاء مواد إباحية غير توافقية أو لنشر معلومات مضللة. إن السهولة النسبية التي يمكن بها إنشاء هذه الصور ونشرها عبر الإنترنت تشكل تحديًا كبيرًا لجهود إنفاذ القانون والإشراف على المحتوى.
يسلط التحقيق في xAI الضوء على المخاوف المتزايدة بشأن سوء الاستخدام المحتمل لتقنيات الذكاء الاصطناعي ومسؤولية مطوري الذكاء الاصطناعي عن منع الضرر. مع ازدياد تطور نماذج الذكاء الاصطناعي وإمكانية الوصول إليها، يزداد خطر استغلال الجهات الخبيثة لها لأغراض شريرة. يؤكد هذا الحادث الحاجة إلى ضمانات قوية ومبادئ توجيهية أخلاقية تحكم تطوير ونشر أنظمة الذكاء الاصطناعي.
لم يكشف مكتب المدعي العام في كاليفورنيا بعد عن تفاصيل الأدلة المحددة التي جمعها لدعم مزاعمه ضد xAI. لم تصدر xAI بعد بيانًا عامًا ردًا على خطاب الوقف والكف. من المرجح أن تتضمن الخطوات التالية تقديم xAI ردًا على مكتب المدعي العام في غضون فترة الخمسة أيام المنصوص عليها، مع تحديد الإجراءات التي تتخذها لمعالجة المخاوف المثارة. سيقوم مكتب المدعي العام بعد ذلك بتقييم رد xAI وتحديد ما إذا كانت هناك حاجة إلى اتخاذ مزيد من الإجراءات.
Discussion
Join the conversation
Be the first to comment