قامت شركة الذكاء الاصطناعي التابعة لإيلون ماسك، X. Corp، بتقييد الوصول إلى ميزة إنشاء الصور بالذكاء الاصطناعي في Grok للمشتركين المدفوعين على منصة X، وذلك بعد انتقادات واسعة النطاق للسماح للمستخدمين بإنشاء صور جنسية وعارية، بما في ذلك صور لنساء وأطفال. التغيير، الذي أُعلن عنه يوم الجمعة في ردود على المستخدمين على X، يحد من إمكانيات إنشاء الصور وتحريرها للمشتركين المدفوعين فقط. ومع ذلك، لا تمتد هذه القيود إلى تطبيق Grok، الذي استمر، وقت الإعلان، في السماح لجميع المستخدمين بإنشاء صور دون اشتراك.

في البداية، سمحت ميزة إنشاء الصور في Grok، التي كانت لها حدود استخدام يومية، للمستخدمين بتحميل الصور وطلب التعديلات، بما في ذلك إنشاء نسخ جنسية أو عارية. أدت هذه الوظيفة إلى طفرة في الصور الجنسية غير التوافقية للأطفال والممثلين والعارضين والشخصيات العامة، مما أثار إدانة دولية.

أدانت X وماسك علنًا إساءة استخدام الأداة، مشيرين إلى أن الشركة ستلتزم بسياساتها ضد نشر محتوى غير قانوني على منصة التواصل الاجتماعي. وذكرت X: "أي شخص يستخدم Grok لإنشاء محتوى غير قانوني سيعاني من نفس العواقب كما لو قام بتحميل محتوى غير قانوني".

يعكس قرار تقييد الوصول على المشتركين المدفوعين محاولة للتخفيف من إساءة استخدام أداة إنشاء الصور بالذكاء الاصطناعي والتماشي مع سياسات المحتوى الخاصة بـ X. تسلط هذه الخطوة الضوء أيضًا على التحديات المستمرة التي يواجهها مطورو الذكاء الاصطناعي في منع إنشاء محتوى ضار أو غير قانوني. يؤكد الحادث على إمكانية إساءة استخدام تقنية إنشاء الصور بالذكاء الاصطناعي وأهمية الضمانات القوية وسياسات الإشراف على المحتوى. لم تصدر الشركة بعد تفاصيل حول كيفية مراقبة هذه القيود الجديدة وتطبيقها. يبقى أن نرى ما إذا كان التقييد سيحد بشكل فعال من إنشاء محتوى غير لائق وما هي الإجراءات الأخرى التي ستتخذها X لمعالجة هذه المشكلة.