قامت X، المعروفة سابقًا باسم Twitter، بتطبيق قيود جديدة على منصتها لمنع المستخدمين من تعديل وإنشاء صور لأشخاص حقيقيين بملابس فاضحة، وذلك في أعقاب انتقادات واسعة النطاق لاستخدام Grok AI الخاص بها لإنشاء صور جنسية صريحة غير توافقية. يهدف تغيير السياسة، الذي تم تقديمه ليلة الأربعاء، إلى معالجة المخاوف بشأن إنشاء صور "تعرية" ضارة للنساء وصور جنسية لقاصرين ظاهرين.

ومع ذلك، في حين يبدو أن X قد أدخلت تدابير سلامة لإنشاء الصور في Grok داخل منصتها، تشير الاختبارات المستقلة إلى أن تطبيق وموقع Grok المستقلين لا يزالان يسمحان بإنشاء مثل هذه الصور. أفاد باحثون وصحفيون من WIRED ومختبرون آخرون بأنهم قادرون على إنشاء صور "بنمط تعرية" ومحتوى إباحي من خلال منصة Grok المستقلة. في المقابل، أبلغ بعض المستخدمين عن انخفاض القدرة على إنشاء الصور ومقاطع الفيديو مقارنة بالإمكانات السابقة.

صرح بول بوشود، الباحث الرئيسي في AI Forensics، وهي منظمة غير ربحية مقرها باريس، قائلاً: "لا يزال بإمكاننا إنشاء صور عارية واقعية ضوئيًا على Grok.com... يمكننا إنشاء صور عارية بطرق لا يستطيع Grok على X القيام بها." أجرى بوشود، الذي كان يتتبع استخدام Grok لإنشاء صور جنسية، اختبارات متعددة خارج منصة X. وأوضح كذلك: "يمكنني تحميل صورة على Grok Imagine وطلب وضع الشخص في بيكيني، وهذا ينجح."

يسلط التناقض بين القيود المفروضة على X وقدرات Grok المستقلة الضوء على التحديات في تنظيم تكنولوجيا إنشاء الصور بالذكاء الاصطناعي. تثير القدرة على معالجة الصور وإنشاء صور واقعية للأفراد في مواقف محرجة مخاوف أخلاقية وقانونية كبيرة، لا سيما فيما يتعلق بالموافقة واحتمال إساءة الاستخدام.

أثار إدخال Grok وأدوات إنشاء الصور بالذكاء الاصطناعي المماثلة جدلاً داخل صناعة التكنولوجيا وبين صانعي السياسات حول الحاجة إلى لوائح وضمانات أكثر صرامة. يجادل الخبراء بأنه يجب على المطورين إعطاء الأولوية للسلامة والاعتبارات الأخلاقية عند نشر مثل هذه التقنيات، بما في ذلك تنفيذ أنظمة قوية للإشراف على المحتوى وآليات لمنع إنشاء محتوى ضار أو استغلالي.

لا يزال الوضع الحالي لقدرات إنشاء الصور في Grok مصدر قلق للكثيرين، حيث أن احتمال إساءة الاستخدام لا يزال قائماً على المنصة المستقلة. ليس من الواضح ما هي الخطوات التي تخطط X لاتخاذها لمعالجة المشكلة المستمرة وضمان تدابير سلامة متسقة عبر جميع منصات Grok. من المتوقع حدوث المزيد من التطورات حيث يواصل الباحثون وجماعات المناصرة مراقبة الوضع والدفع من أجل لوائح أقوى.