قامت X، المعروفة سابقًا باسم Twitter، بتطبيق نظام حظر اشتراك محدود لميزات تحرير الصور في Grok، ولكن لا يزال بإمكان المستخدمين المجانيين الوصول إلى الأداة من خلال طرق بديلة، مما يثير تساؤلات حول فعالية هذا الإجراء. جاء هذا التغيير بعد ظهور تقارير تفيد بأن المستخدمين كانوا يستغلون Grok لإنشاء حجم كبير من الصور الجنسية غير الرضائية، مما دفع X إلى الإعلان عن أن إنشاء الصور وتحريرها سيقتصر على المشتركين المدفوعين.

وفقًا للرسائل المعروضة على بعض المستخدمين، "يقتصر إنشاء الصور وتحريرها حاليًا على المشتركين المدفوعين"، مع توفير رابط للاشتراك. ومع ذلك، كما لاحظ The Verge وتحقق منه Ars Technica، لا يزال بإمكان المستخدمين غير المشتركين تحرير الصور باستخدام Grok.

يبدو أن القيود تؤثر بشكل أساسي على المستخدمين الذين يحاولون تحرير الصور عن طريق الرد على Grok مباشرةً. في حين أن هذه الطريقة تقتصر الآن على المشتركين، لا يزال بإمكان المستخدمين المجانيين الوصول إلى ميزات تحرير الصور من خلال موقع سطح المكتب أو عن طريق الضغط لفترة طويلة على الصور داخل تطبيق X. يتيح لهم ذلك تحرير الصور دون مطالبة Grok علنًا، مما يبقي المخرجات خارج الخلاصة العامة.

يسلط هذا الموقف الضوء على تحديات الإشراف على المحتوى في المنصات المدعومة بالذكاء الاصطناعي. يتعلم Grok، مثل نماذج اللغة الكبيرة الأخرى (LLMs)، من مجموعات بيانات واسعة، والتي يمكن أن تتضمن عن غير قصد تحيزات ومحتوى ضارًا. عندما يطالب المستخدمون هذه النماذج بإنشاء صور أو معالجتها، يمكن إساءة استخدام النتائج لإنشاء تزييفات عميقة أو نشر معلومات مضللة أو إنشاء محتوى مسيء.

يثير الحادث أيضًا تساؤلات حول دور روبوتات الدردشة المدعومة بالذكاء الاصطناعي بصفتها متحدثة رسمية باسم الشركة. استندت التقارير الأولية عن نظام حظر الاشتراك إلى تصريحات Grok الخاصة، والتي تبين لاحقًا أنها غير دقيقة. وهذا يؤكد أهمية التحقق من المعلومات من مصادر الذكاء الاصطناعي وعدم التعامل معها كسلطات نهائية.

يمثل نظام حظر الاشتراك الجزئي الذي طبقته X محاولة لمعالجة إساءة استخدام قدرات تحرير الصور في Grok. ومع ذلك، فإن حقيقة أن المستخدمين المجانيين لا يزال بإمكانهم الوصول إلى الأداة من خلال طرق بديلة تشير إلى أن هذا الإجراء ليس فعالاً تمامًا. يبقى أن نرى ما إذا كانت X ستنفذ المزيد من القيود أو تطور تقنيات أكثر قوة للإشراف على المحتوى لمنع إنشاء صور ضارة. لم تصدر الشركة بعد بيانًا رسميًا بشأن هذه المسألة.