لن يتمكن برنامج Grok للذكاء الاصطناعي التابع لإيلون ماسك بعد الآن من تعديل صور لأشخاص حقيقيين لتصويرهم بملابس فاضحة في الولايات القضائية التي تحظر فيها مثل هذه التعديلات. يأتي هذا الإعلان، الذي تم نشره على X، منصة التواصل الاجتماعي المملوكة لماسك والتي تم إطلاق Grok عليها في عام 2023، في أعقاب قلق واسع النطاق بشأن احتمالية استخدام تقنية التزييف العميق الجنسية المدعومة بالذكاء الاصطناعي.

ذكرت X أنه تم تنفيذ "تدابير تكنولوجية" لمنع حساب Grok من تمكين تعديل صور لأشخاص حقيقيين بملابس فاضحة. تأتي هذه الخطوة بعد انتقادات وتدقيق من قبل المنظمين والجمهور بشأن احتمال إساءة استخدام تكنولوجيا الذكاء الاصطناعي لإنشاء محتوى جنسي صريح وغير توافقي.

وردت الحكومة البريطانية، واصفة التغيير بأنه "تبرير" لدعوتها لـ X للسيطرة على Grok. وصفت Ofcom، وهي هيئة تنظيم الاتصالات في المملكة المتحدة، التطور بأنه "مرحب به"، لكنها أكدت أن تحقيقها في ما إذا كانت المنصة قد انتهكت قوانين المملكة المتحدة "لا يزال مستمراً". صرحت Ofcom بأنهم "يعملون على مدار الساعة لإحراز تقدم في هذا الأمر والحصول على إجابات حول ما حدث من أخطاء وما يتم فعله لإصلاحها". كما رحبت وزيرة التكنولوجيا ليز كيندال بهذه الخطوة، مضيفة أنها "تتوقع أن يتم إثبات الحقائق بشكل كامل وقوي من خلال التحقيق المستمر الذي تجريه Ofcom".

تثير قدرة أدوات الذكاء الاصطناعي مثل Grok على التلاعب بالصور أسئلة أخلاقية وقانونية كبيرة. أصبحت تقنية التزييف العميق، وهي وسائط اصطناعية يتم فيها استبدال شخص في صورة أو مقطع فيديو موجود بشخص آخر، متطورة بشكل متزايد، مما يجعل اكتشافها صعبًا. وقد أدى ذلك إلى مخاوف بشأن استخدامها المحتمل لأغراض خبيثة، بما في ذلك إنشاء مواد إباحية غير توافقية وحملات تضليل وسرقة الهوية.

لم يتم تفصيل التدابير التقنية التي نفذتها X لمنع Grok من إنشاء مثل هذه الصور في الإعلان. ومع ذلك، يمكن أن تشمل الحلول المحتملة خوارزميات تصفية مصممة لاكتشاف وحظر المطالبات التي تطلب إنشاء محتوى جنسي صريح، بالإضافة إلى وضع علامات مائية على الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي للإشارة إلى أصلها الاصطناعي.

جادل النشطاء والضحايا بأن التغيير جاء متأخراً جداً لإصلاح الضرر الذي حدث بالفعل. من المحتمل أن تكون الصحفية والناشطة جيس ديفيز، التي لم يتم اقتباسها مباشرة في المادة المصدر المقدمة، قد شاركت في زيادة الوعي حول هذه القضية. يسلط الحادث الضوء على تحديات تنظيم تقنيات الذكاء الاصطناعي سريعة التطور والحاجة إلى اتخاذ تدابير استباقية لمنع إساءة استخدامها. من المحتمل أن يبحث التحقيق الجاري الذي تجريه Ofcom في مدى وعي X باحتمالية استخدام Grok لأغراض خبيثة وما هي الخطوات التي اتخذتها الشركة، إن وجدت، لمنع مثل هذه الإساءة. قد يكون لنتائج التحقيق آثار كبيرة على تنظيم تقنيات الذكاء الاصطناعي على منصات التواصل الاجتماعي.