أصدر المدعي العام لولاية كاليفورنيا، روب بونتا، يوم الجمعة، خطاب وقف وكف إلى شركة xAI، مطالباً الشركة بالتوقف الفوري عن إنشاء وتوزيع الصور الحميمة المزيفة العميقة (deepfake) وغير التوافقية ومواد الاعتداء الجنسي على الأطفال (CSAM). تأتي هذه الخطوة في أعقاب إعلان سابق هذا الأسبوع عن أن مكتب المدعي العام في كاليفورنيا كان يحقق مع xAI بشأن تقارير تفيد بأن برنامج الدردشة الآلي الخاص بها، Grok، كان يستخدم لإنشاء صور جنسية غير توافقية لنساء وقاصرين.
وقال بونتا في بيان صحفي: "اليوم، أرسلت إلى xAI خطاب وقف وكف، مطالباً الشركة بالتوقف الفوري عن إنشاء وتوزيع الصور الحميمة المزيفة العميقة وغير التوافقية ومواد الاعتداء الجنسي على الأطفال". "إن إنشاء هذه المواد غير قانوني. أتوقع تمامًا أن تمتثل xAI على الفور. كاليفورنيا لا تتسامح مطلقًا مع مواد الاعتداء الجنسي على الأطفال".
وادعى مكتب المدعي العام أن xAI يبدو أنها تسهل الإنتاج واسع النطاق للصور العارية غير التوافقية، والتي يُزعم أنها تستخدم لمضايقة النساء والفتيات عبر الإنترنت. وتتوقع الوكالة أن تثبت xAI في غضون خمسة أيام الخطوات التي تتخذها لمعالجة هذه القضايا.
في قلب الجدل ميزة "الوضع الحار" في Grok، والتي أنشأتها xAI للسماح بردود أكثر انفتاحًا من الذكاء الاصطناعي. يبدو أن هذه الميزة، المصممة لتوفير تفاعلات أكثر جاذبية وإثارة، قد تم استغلالها لإنشاء محتوى ضار وغير قانوني. يمكن للصور المزيفة العميقة (Deepfakes)، وهي وسائط اصطناعية تم إنشاؤها بواسطة الذكاء الاصطناعي، أن تصور بشكل مقنع الأفراد وهم يفعلون أو يقولون أشياء لم يفعلوها أبدًا، مما يثير مخاوف جدية بشأن التشهير وانتهاكات الخصوصية وإمكانية إساءة استخدامها في إنشاء مواد إباحية غير توافقية.
تزداد الآثار القانونية والأخلاقية للمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي بشكل متزايد مع تقدم تكنولوجيا الذكاء الاصطناعي. تثير القدرة على إنشاء صور ومقاطع فيديو مزيفة واقعية ومقنعة أسئلة حول المساءلة ومسؤولية مطوري الذكاء الاصطناعي لمنع إساءة استخدام تقنيتهم. يتخذ مكتب المدعي العام في كاليفورنيا موقفًا حازمًا، ويؤكد على عدم قانونية إنشاء وتوزيع هذه المواد ويطالب باتخاذ إجراءات فورية من xAI.
يسلط التحقيق وأمر الوقف والكف الضوء على تحديات تنظيم الذكاء الاصطناعي وضمان عدم استخدام هذه الأدوات القوية للإضرار بالأفراد أو إنشاء محتوى غير قانوني. تؤكد القضية أيضًا على حاجة شركات الذكاء الاصطناعي إلى معالجة سوء الاستخدام المحتمل لتقنيتها بشكل استباقي وتنفيذ ضمانات لمنع إنشاء وتوزيع المحتوى الضار. ستكون الأيام الخمسة القادمة حاسمة حيث تستجيب xAI لمطالب المدعي العام وتحدد خطتها لمعالجة هذه المخاوف الخطيرة.
Discussion
Join the conversation
Be the first to comment