قامت شركة X. Corp، التابعة لشركة الذكاء الاصطناعي التي يملكها إيلون ماسك، بتقييد الوصول إلى ميزة توليد الصور بالذكاء الاصطناعي في Grok، وقصرت استخدامها على المشتركين المدفوعين على منصة X. جاء هذا التغيير بعد انتقادات واسعة النطاق لقدرة الأداة على توليد صور جنسية وعارية، بما في ذلك تلك التي تصور النساء والأطفال. وفقًا لبيانات أدلت بها Grok يوم الجمعة ردًا على استفسارات المستخدمين، سيتمكن المشتركون المدفوعون فقط الآن من إنشاء الصور وتعديلها على المنصة.

ومع ذلك، لا تمتد هذه القيود حاليًا إلى تطبيق Grok، الذي لا يزال يسمح للمستخدمين، وقت كتابة هذا التقرير، بإنشاء صور دون اشتراك مدفوع. ميزة توليد الصور، التي كانت متاحة في البداية لجميع المستخدمين مع حدود يومية، مكنت من تحميل الصور لتحريرها أو إنشاء نسخ جنسية أو عارية منها. أدت هذه القدرة إلى طفرة في الصور الجنسية غير التوافقية التي تصور الأطفال والممثلين والعارضين والشخصيات العامة، مما أثار إدانة دولية.

أدانت X وماسك علنًا إساءة استخدام الأداة، وأكدا من جديد التزام الشركة بإنفاذ سياساتها ضد نشر محتوى غير قانوني على منصة التواصل الاجتماعي. وذكرت الشركة: "أي شخص يستخدم Grok لإنشاء محتوى غير قانوني سيعاني من نفس العواقب كما لو قام بتحميل محتوى غير قانوني".

تسلط هذه القضية الضوء على التحديات الكامنة في نشر تكنولوجيا توليد الصور بالذكاء الاصطناعي بمسؤولية. تثير القدرة على معالجة الصور وإنشائها مخاوف أخلاقية كبيرة، لا سيما فيما يتعلق بالموافقة والخصوصية واحتمال إساءة الاستخدام. كما تؤكد الحادثة على أهمية وجود سياسات قوية للإشراف على المحتوى وآليات إنفاذ لمنع إنشاء ونشر المحتوى الضار أو غير القانوني.

يمثل قرار قصر توليد الصور في Grok على المشتركين المدفوعين تحولًا في نهج X لإدارة التكنولوجيا. في حين أن هذه الخطوة قد تخفف بعض المخاطر المرتبطة بالأداة، إلا أنها تثير أيضًا تساؤلات حول إمكانية الوصول واحتمال وجود نظام من مستويين حيث يتمتع المستخدمون الذين يدفعون بوصول أكبر إلى قدرات الذكاء الاصطناعي التي قد تكون إشكالية. لا تزال الآثار طويلة المدى لهذا القرار على تطوير ونشر تكنولوجيا توليد الصور بالذكاء الاصطناعي غير واضحة. لم تعلن الشركة بعد متى أو ما إذا كان تطبيق Grok سيخضع أيضًا لنفس القيود.