قامت شركة الذكاء الاصطناعي التابعة لإيلون ماسك، X.AI، بتقييد الوصول إلى ميزة توليد الصور في Grok للمشتركين المدفوعين على منصة X، وذلك بعد انتقادات واسعة النطاق بشأن إساءة استخدام الأداة. التقييد، الذي أُعلن عنه يوم الجمعة في ردود على المستخدمين على X، يحد من القدرة على إنشاء وتعديل الصور للمشتركين المدفوعين فقط. ومع ذلك، في وقت النشر، لم تمتد هذه القيود إلى تطبيق Grok، حيث لا يزال بإمكان المستخدمين إنشاء صور دون اشتراك.

سمحت ميزة إنشاء الصور، التي كانت متاحة في البداية لجميع المستخدمين مع حدود يومية، للأفراد بتحميل الصور وطلب تعديلات عليها، بما في ذلك إنشاء نسخ جنسية أو عارية. أدت هذه الإمكانية إلى انتشار صور جنسية غير توافقية تصور أطفالًا وممثلين وعارضين وشخصيات عامة، مما أثار غضبًا دوليًا.

أدانت X وماسك علنًا إساءة استخدام الأداة، مشيرين إلى أن الشركة ستلتزم بسياساتها ضد المحتوى غير القانوني. وذكرت الشركة: "أي شخص يستخدم Grok لإنشاء محتوى غير قانوني سيعاني من نفس العواقب كما لو قام بتحميل محتوى غير قانوني".

تسلط هذه القضية الضوء على تحديات تنفيذ تكنولوجيا توليد الصور بالذكاء الاصطناعي بمسؤولية. إن إمكانية الوصول الأولية إلى ميزة توليد الصور في Grok، والتي تهدف إلى إضفاء الطابع الديمقراطي على الوصول إلى أدوات الذكاء الاصطناعي، قد خلقت عن غير قصد بيئة مهيأة للإساءة. تثير القدرة على التلاعب بالصور وإنشاء التزييف العميق مخاوف أخلاقية جدية بشأن الموافقة والخصوصية واحتمال الاستخدام الخبيث.

يمثل قرار تقييد الوصول إلى المشتركين المدفوعين تحولًا نحو مزيد من الرقابة والمساءلة. من خلال الحد من قاعدة المستخدمين، تهدف X.AI إلى التخفيف من خطر سوء الاستخدام وربما تطبيق سياسات مراقبة وإشراف أكثر صرامة. ومع ذلك، فإن استمرار توفر الميزة على تطبيق Grok يثير تساؤلات حول اتساق وفعالية هذه الإجراءات.

تؤكد الحادثة على الحاجة إلى ضمانات قوية ومبادئ توجيهية أخلاقية في تطوير ونشر تقنيات توليد الصور بالذكاء الاصطناعي. مع ازدياد تطور هذه الأدوات وإمكانية الوصول إليها، يجب على المطورين والمنصات إعطاء الأولوية لسلامة المستخدم ومنع إنشاء ونشر المحتوى الضار. سيراقب القطاع لمعرفة ما إذا كانت هذه الخطوة كافية للحد من إساءة استخدام التكنولوجيا وما إذا كانت المنصات الأخرى ستحذو حذوها بفرض قيود مماثلة.