فرضت منصة X، المعروفة سابقًا بتويتر، قيودًا جديدة مساء الأربعاء تهدف إلى منع توليد صور تصور أشخاصًا حقيقيين بملابس فاضحة باستخدام مولد الصور الخاص بها Grok AI. جاء تغيير السياسة في أعقاب انتقادات واسعة النطاق بشأن استخدام Grok لإنشاء صور "تعرية" غير توافقية للنساء وصور جنسية لقاصرين على المنصة.

ومع ذلك، في حين يبدو أن X قد أدخلت تدابير سلامة داخل منصتها الخاصة، فإن تطبيق وموقع Grok المستقلين يواصلان إنشاء أنواع مماثلة من الصور، وفقًا للاختبارات التي أجراها الباحثون و WIRED وصحفيون آخرون. وأبلغ بعض المستخدمين أيضًا عن مواجهة قيود في قدرتهم على إنشاء الصور ومقاطع الفيديو مقارنة بالإمكانات السابقة.

صرح بول بوشو، الباحث الرئيسي في AI Forensics، وهي منظمة غير ربحية مقرها باريس، بأن المنظمة لا تزال قادرة على إنشاء صور عارية واقعية على Grok.com. وقال بوشو: "يمكننا إنشاء صور عارية بطرق لا يستطيع Grok على X القيام بها"، مشيرًا إلى أنه كان يتتبع استخدام Grok لإنشاء صور جنسية وأجرى اختبارات متعددة على المنصة خارج X. وأضاف: "يمكنني تحميل صورة على Grok Imagine وأطلب وضع الشخص في بيكيني، وهذا ينجح".

يسلط هذا التباين الضوء على التحديات التي تواجه تنفيذ ضمانات شاملة عبر مختلف المنصات والواجهات التي تستخدم نفس تقنية الذكاء الاصطناعي. تعتمد قدرات Grok في إنشاء الصور على خوارزميات معقدة يصعب التحكم فيها ومراقبتها بفعالية. تستخدم هذه التقنية نماذج الانتشار، التي يتم تدريبها على مجموعات بيانات واسعة من الصور والنصوص، مما يمكنها من إنشاء صور جديدة بناءً على مطالبات المستخدم. ومع ذلك، هذا يعني أيضًا أنه يمكن استغلال النماذج لإنشاء محتوى ضار أو غير لائق إذا لم يتم تنظيمها بشكل صحيح.

يمثل إدخال القيود على X خطوة أولية نحو معالجة قضية الصور الجنسية المولدة بالذكاء الاصطناعي. ومع ذلك، فإن استمرار توفر هذا المحتوى على منصة Grok المستقلة يثير مخاوف بشأن فعالية هذه التدابير. يؤكد الحادث على الحاجة إلى المراقبة المستمرة وتحسين بروتوكولات السلامة والتعاون بين شركات التكنولوجيا والباحثين وصناع السياسات للتخفيف من الأضرار المحتملة المرتبطة بتوليد الصور بالذكاء الاصطناعي. يمكن أن يشمل تأثير الصناعة زيادة التدقيق في الأدوات التي تعمل بالذكاء الاصطناعي والدفع نحو لوائح أكثر صرامة لمنع سوء الاستخدام.