قامت منصة X، المعروفة سابقًا باسم تويتر، بتقييد قدرات توليد الصور داخل روبوت الدردشة Grok الخاص بها للمشتركين المدفوعين، وذلك في أعقاب انتقادات حول قدرة الأداة على إنشاء صور ذات محتوى جنسي صريح، بما في ذلك تلك التي تصور قاصرين على ما يبدو. التغيير، الذي تم تنفيذه يوم الجمعة، يطالب الآن المستخدمين غير المشتركين الذين يحاولون إنشاء صور باستخدام Grok بالاشتراك في المستوى المميز للمنصة الذي تبلغ قيمته 95 دولارًا سنويًا، وفقًا للاختبارات التي أجراها العديد من المستخدمين.

يأتي هذا التقييد وسط تدقيق متزايد لمنصة X المملوكة لإيلون ماسك و xAI، الشركة المسؤولة عن تطوير Grok. وبحسب ما ورد، يحقق المنظمون في جميع أنحاء العالم في المنصة فيما يتعلق بإنشاء صور إباحية صريحة غير توافقية وصور جنسية مزعومة للأطفال. وقد اقترح رئيس الوزراء البريطاني كير ستارمر حظرًا محتملاً لمنصة X في المملكة المتحدة، مشيرًا إلى أنشطة غير قانونية.

يستخدم روبوت الدردشة Grok نماذج الذكاء الاصطناعي المتقدمة لإنشاء صور من مطالبات نصية. هذه التكنولوجيا، في حين أنها توفر إمكانات إبداعية، أثارت مخاوف بشأن احتمال إساءة استخدامها. أثارت القدرة على إنشاء صور واقعية، لا سيما تلك ذات الطبيعة الجنسية، مناقشات حول الاعتبارات الأخلاقية والحاجة إلى ضمانات.

يمكن تفسير قرار X بتقييد توليد الصور على المشتركين المدفوعين على أنه محاولة للتخفيف من خطر إساءة الاستخدام وإظهار الالتزام بتطوير الذكاء الاصطناعي بشكل مسؤول. ومع ذلك، يجادل النقاد بأن هذا النهج يضع سعرًا على السلامة بشكل فعال، مما قد يحد من الوصول إلى الضمانات للمستخدمين الضعفاء.

لم تصدر X ولا xAI بيانًا رسميًا بشأن التغيير أو الأسباب المحددة الكامنة وراءه. ولا يزال التأثير طويل المدى لهذا القرار على قاعدة مستخدمي Grok والنقاش الأوسع المحيط بأخلاقيات الذكاء الاصطناعي غير واضح. التحقيقات التي يجريها المنظمون مستمرة، ومستقبل X في مناطق معينة غير مؤكد.