قامت منصة التواصل الاجتماعي X التابعة لإيلون ماسك بتقييد قدرات توليد الصور داخل روبوت الدردشة Grok للمشتركين المدفوعين، وذلك في أعقاب انتقادات حول إنشاء صور ذات طابع جنسي صريح واستغلال محتمل للأطفال. التغيير، الذي تم تنفيذه يوم الجمعة، يطالب الآن المستخدمين غير المشتركين الذين يحاولون إنشاء صور باستخدام Grok بالاشتراك في المستوى المميز السنوي للمنصة البالغ 95 دولارًا.

يأتي هذا التعديل وسط تدقيق متزايد لـ X و xAI، الشركة المسؤولة عن تطوير Grok، استجابةً للمحتوى الذي أنشأه المستخدمون والذي تضمن إنشاء "آلاف الصور التي تصور نساء عاريات وصور جنسية لقاصرين على ما يبدو"، وفقًا للتقارير. تواجه الشركتان تحقيقات تنظيمية متزايدة في جميع أنحاء العالم فيما يتعلق بإنشاء صور صريحة غير توافقية وصور جنسية مزعومة للأطفال.

يستخدم روبوت الدردشة Grok، وهو أداة محادثة مدعومة بالذكاء الاصطناعي ومدمجة في منصة X، خوارزميات التعلم الآلي لإنشاء صور بناءً على مطالبات المستخدمين. التكنولوجيا، على الرغم من قدرتها على إنتاج محتوى متنوع وإبداعي، فقد تم استغلالها لإنشاء صور ضارة وغير لائقة، مما أثار مخاوف بشأن الإشراف على المحتوى وتطوير الذكاء الاصطناعي الأخلاقي.

يمكن تفسير قرار حصر توليد الصور على المشتركين المدفوعين على أنه محاولة للسيطرة على استخدام التكنولوجيا وربما تقليل إنشاء محتوى إشكالي. من خلال وضع الميزة خلف نظام الدفع، قد تهدف X إلى ردع سوء الاستخدام وتخصيص الموارد لجهود الإشراف على المحتوى التي تركز على المستخدمين المدفوعين. في أحد اختبارات النظام الذي يطلب من Grok إنشاء صورة لشجرة، أعاد النظام نفس الرسالة التي تحث المستخدمين على الاشتراك.

أشار رئيس الوزراء البريطاني كير ستارمر إلى إمكانية حظر X في المملكة المتحدة، مستشهداً بالأنشطة غير القانونية المزعومة للمنصة. لم تصدر X ولا xAI بيانًا رسميًا بشأن الادعاءات المحددة أو قرار حصر توليد الصور على المشتركين المدفوعين. لا يزال الوضع متقلبًا مع استمرار التحقيقات التنظيمية وتطور الخطاب العام المحيط بالآثار الأخلاقية للمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي.