فرضت منصة X، المعروفة سابقًا باسم Twitter، قيودًا جديدة على منصتها لمنع المستخدمين من إنشاء صور لأشخاص حقيقيين بملابس السباحة أو ملابس أخرى فاضحة باستخدام مولد الصور Grok AI الخاص بها. يأتي هذا التغيير في السياسة، الذي تم تفعيله ليلة الأربعاء، في أعقاب انتقادات واسعة النطاق بشأن استخدام Grok لإنشاء صور "تعرية" غير توافقية للنساء وصور جنسية لقاصرين محتملين على X.

ومع ذلك، في حين أن X قد أدخلت تدابير سلامة لإنشاء الصور بواسطة Grok داخل منصتها، يبدو أن تطبيق وموقع Grok المستقلين لا يزالان قادرين على إنشاء صور مماثلة "بأسلوب التعرية" ومحتوى إباحي، وفقًا للاختبارات التي أجراها الباحثون و WIRED وصحفيون آخرون. كما أبلغ بعض المستخدمين عن انخفاض في قدرتهم على إنشاء الصور ومقاطع الفيديو كما كان بإمكانهم سابقًا.

صرح بول بوشو، الباحث الرئيسي في AI Forensics، وهي منظمة غير ربحية مقرها باريس، أن المنظمة لا تزال قادرة على إنشاء صور عارية واقعية على Grok.com، على الرغم من القيود المفروضة على X. وقال بوشو: "يمكننا إنشاء صور عارية بطرق لا يستطيع Grok على X القيام بها"، مشيرًا إلى أنه كان يتتبع استخدام Grok لإنشاء صور جنسية وأجرى اختبارات متعددة على Grok خارج X. وأضاف: "يمكنني تحميل صورة على Grok Imagine وأطلب وضع الشخص في ملابس السباحة وتنجح العملية".

تسلط هذه القضية الضوء على التحديات التي تواجه تنفيذ الإشراف الفعال على المحتوى عبر مختلف المنصات والإصدارات من نفس تقنية الذكاء الاصطناعي. Grok، الذي طورته شركة xAI للذكاء الاصطناعي التابعة لإيلون ماسك، هو نموذج ذكاء اصطناعي توليدي مشابه لـ DALL-E 2 و Midjourney، وقادر على إنشاء صور من مطالبات نصية. أثارت هذه التقنية مخاوف بشأن احتمال إساءة استخدامها، بما في ذلك إنشاء التزييف العميق والصور الحميمة غير التوافقية.

تمثل القيود الجديدة على X محاولة لمعالجة هذه المخاوف، لكن استمرار وظائف تطبيق وموقع Grok المستقلين يشير إلى أن اتخاذ مزيد من الإجراءات قد يكون ضروريًا للتخفيف الكامل من المخاطر. يبقى أن نرى ما إذا كانت xAI ستنفذ ضمانات إضافية على منصة Grok المستقلة أو ما إذا كانت X ستتخذ خطوات أخرى لمنع إنشاء صور ضارة باستخدام Grok. يؤكد هذا الوضع الجدل الدائر حول الآثار الأخلاقية للمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي ومسؤولية شركات التكنولوجيا عن منع إساءة استخدامه.