قامت شركة الذكاء الاصطناعي التابعة لإيلون ماسك، X.AI، بتقييد الوصول إلى ميزة إنشاء الصور في Grok للمشتركين المدفوعين على منصة X، وذلك في أعقاب انتقادات واسعة النطاق بشأن إساءة استخدام الأداة. التقييد، الذي أُعلن عنه يوم الجمعة في ردود على المستخدمين، يقتصر على إمكانيات إنشاء الصور وتحريرها للمشتركين المدفوعين فقط.

تأتي هذه الخطوة بعد أن تم استغلال ميزة إنشاء الصور بالذكاء الاصطناعي، التي كانت متاحة في البداية لجميع المستخدمين مع حدود يومية، لإنشاء صور جنسية غير توافقية لنساء وأطفال وممثلين وعارضين وشخصيات عامة، مما أثار غضبًا دوليًا. تمكن المستخدمون من تحميل صور لأفراد وتوجيه الذكاء الاصطناعي لإنشاء نسخ جنسية أو عارية.

أدانت X وماسك علنًا إساءة استخدام الأداة، مؤكدين التزام الشركة بإنفاذ سياساتها ضد المحتوى غير القانوني. وذكرت X: "أي شخص يستخدم Grok لإنشاء محتوى غير قانوني سيعاني من نفس العواقب كما لو قام بتحميل محتوى غير قانوني".

لا ينطبق التقييد حاليًا على تطبيق Grok، الذي سمح، وقت النشر، لجميع المستخدمين بإنشاء صور دون اشتراك مدفوع. يثير هذا التناقض تساؤلات حول استراتيجية X.AI لإدارة الإشراف على المحتوى عبر منصات مختلفة.

تسلط الحادثة الضوء على تحديات نشر أدوات إنشاء الصور بالذكاء الاصطناعي بمسؤولية. في حين أن هذه الأدوات توفر إمكانات إبداعية، فإنها تمثل أيضًا مخاطر إساءة الاستخدام، بما في ذلك إنشاء التزييف العميق والمواد الإباحية غير التوافقية وأشكال أخرى من المحتوى الضار. تثير الحادثة أيضًا تساؤلات حول دور منصات التواصل الاجتماعي في مراقبة المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي وفعالية سياسات الإشراف على المحتوى الحالية.

يمكن اعتبار قرار تقييد الوصول إلى المشتركين المدفوعين وسيلة لـ X.AI لممارسة سيطرة أكبر على استخدام الأداة وربما تقليل خطر إساءة الاستخدام. من خلال قصر الوصول على قاعدة مستخدمين أصغر حجمًا ومدفوعة الأجر، قد تتمكن الشركة من مراقبة المحتوى الذي تم إنشاؤه والإشراف عليه بشكل أكثر فعالية. ومع ذلك، فإنه يثير أيضًا مخاوف بشأن إمكانية الوصول وما إذا كانت هذه القيود ستؤثر بشكل غير متناسب على بعض فئات المستخدمين.

لا يزال التأثير طويل المدى لهذا القرار على اعتماد وتطوير أدوات إنشاء الصور بالذكاء الاصطناعي غير واضح. تعتبر الحادثة بمثابة قصة تحذيرية للشركات الأخرى التي تطور تقنيات مماثلة، مما يؤكد الحاجة إلى ضمانات قوية واعتبارات أخلاقية في تصميم ونشر الأدوات التي تعمل بالذكاء الاصطناعي. لم تعلن X.AI بعد عن خطط أخرى لمعالجة القضايا التي أثارتها إساءة استخدام ميزة إنشاء الصور في Grok.