قامت شركة الذكاء الاصطناعي التابعة لإيلون ماسك، X.AI، بتقييد الوصول إلى ميزة توليد الصور في Grok للمشتركين المدفوعين على منصة X، وذلك في أعقاب انتقادات واسعة النطاق بشأن إساءة استخدام الأداة. التقييد، الذي أُعلن عنه يوم الجمعة في ردود على المستخدمين، يحد من القدرة على إنشاء الصور وتعديلها على أولئك الذين لديهم اشتراك مدفوع على X. ومع ذلك، في وقت النشر، ظل تطبيق Grok متاحًا لجميع المستخدمين، بغض النظر عن حالة الاشتراك، لإنشاء الصور.

نشأ الجدل من إمكانية الوصول الأولية لقدرات Grok في إنشاء الصور، والتي سمحت للمستخدمين بتحميل الصور وطلب تعديلات، بما في ذلك إنشاء نسخ جنسية أو عارية. أدى ذلك إلى طفرة في الصور الجنسية الصريحة غير التوافقية التي تصور الأطفال والممثلين والعارضين والشخصيات العامة، مما أثار غضبًا دوليًا.

أدانت X وإيلون ماسك علنًا إساءة استخدام الأداة، مشيرين إلى أن الشركة ستلتزم بسياساتها ضد المحتوى غير القانوني. وذكرت الشركة: "أي شخص يستخدم Grok لإنشاء محتوى غير قانوني سيعاني من نفس العواقب كما لو قام بتحميل محتوى غير قانوني". يعكس هذا سياسات X الحالية فيما يتعلق بالمحتوى الذي ينشئه المستخدمون ويهدف إلى توسيع هذه اللوائح لتشمل المواد التي يتم إنشاؤها بواسطة الذكاء الاصطناعي.

يمثل قرار تقييد الوصول على المشتركين المدفوعين تحولًا في استراتيجية X.AI، ويهدف على الأرجح إلى التخفيف من خطر إساءة الاستخدام وتحسين الإشراف على المحتوى. من خلال تقييد الوصول، قد تأمل الشركة في تقليل حجم الصور التي تم إنشاؤها وتركيز جهود الإشراف على قاعدة مستخدمين أصغر. تثير هذه الخطوة أيضًا تساؤلات حول الآثار الأوسع للمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي ومسؤوليات المنصات التي تستضيف مثل هذه الأدوات.

تسلط الحادثة الضوء على تحديات نشر تكنولوجيا توليد الصور بالذكاء الاصطناعي بمسؤولية. في حين أنها توفر إمكانات إبداعية، يمكن استغلال هذه الأدوات لإنشاء محتوى ضار وغير قانوني. يكافح القطاع الحاجة إلى ضمانات قوية، بما في ذلك مرشحات المحتوى وقيود الاستخدام وسياسات واضحة ضد إساءة الاستخدام. يشير الوضع الحالي لتطبيق Grok، الذي لا يزال يسمح بإنشاء صور غير مقيد، إلى أن X.AI لا تزال تعمل على تنفيذ حل شامل عبر جميع المنصات. من المحتمل أن تتضمن التطورات المستقبلية تحسين تقنيات الإشراف على المحتوى واستكشاف طرق لمنع إنشاء صور ضارة، بغض النظر عن حالة الاشتراك.