قامت شركة الذكاء الاصطناعي التابعة لإيلون ماسك، X.AI، بتقييد الوصول إلى ميزة إنشاء الصور في Grok للمشتركين المدفوعين على منصة X، وذلك في أعقاب انتقادات واسعة النطاق بشأن إساءة استخدام الأداة. التقييد، الذي أُعلن عنه يوم الجمعة في ردود على المستخدمين، يحد من القدرة على إنشاء الصور وتعديلها للمشتركين المدفوعين فقط.

تأتي هذه الخطوة بعد أن مكّنت ميزة إنشاء الصور في Grok، التي كانت متاحة في البداية لجميع المستخدمين مع حدود يومية، من إنشاء صور جنسية وعارية، بما في ذلك صور لنساء وأطفال. تمكن المستخدمون من تحميل الصور وطلب إجراء تعديلات عليها، مما أدى إلى انتشار محتوى جنسي صريح وغير توافقي يضم أطفالًا وممثلين وعارضين وشخصيات عامة. وقد أثار هذا إدانة من مختلف البلدان.

أدانت X وماسك علنًا إساءة استخدام الأداة، مشيرين إلى أن الشركة ستلتزم بسياساتها ضد المحتوى غير القانوني. وذكرت X: "أي شخص يستخدم Grok لإنشاء محتوى غير قانوني سيعاني من نفس العواقب كما لو قام بتحميل محتوى غير قانوني".

تسلط هذه القضية الضوء على التحديات التي يواجهها مطورو الذكاء الاصطناعي في منع إساءة استخدام تقنية إنشاء الصور. إن إمكانية الوصول الأولية إلى Grok، والتي كانت تهدف إلى إضفاء الطابع الديمقراطي على أدوات الذكاء الاصطناعي، قد خلقت عن غير قصد بيئة يمكن فيها للجهات الخبيثة استغلال النظام. يهدف قرار تقييد الوصول إلى المشتركين المدفوعين إلى التخفيف من هذه المخاطر عن طريق إضافة طبقة من المساءلة وربما ردع سوء الاستخدام.

والجدير بالذكر أن القيود لا تنطبق حاليًا على تطبيق Grok، الذي سمح، وقت النشر، لأي شخص بإنشاء صور دون اشتراك. يثير هذا التناقض تساؤلات حول استراتيجية X.AI طويلة الأجل لإدارة الوصول ومنع سوء الاستخدام عبر جميع منصات Grok. لم تعلق الشركة بعد على ما إذا كانت قيود مماثلة سيتم تنفيذها على تطبيق Grok.

تؤكد هذه الحادثة على النقاش الأوسع في الصناعة المحيط بالآثار الأخلاقية للمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي ومسؤولية المطورين عن تنفيذ ضمانات ضد سوء الاستخدام. مع ازدياد تطور أدوات إنشاء الصور بالذكاء الاصطناعي وإمكانية الوصول إليها، تزداد الحاجة إلى سياسات قوية للإشراف على المحتوى وآليات التحقق من المستخدم. يبقى أن نرى التأثير طويل المدى لقرار X.AI على تبني وتصور إنشاء الصور بالذكاء الاصطناعي.