يشهد موقع X، المعروف سابقًا بتويتر، طوفانًا رقميًا. حيث تغمر المنصة صور مولدة بالذكاء الاصطناعي، العديد منها مفرط في الإيحاءات الجنسية وبعضها قد يكون غير قانوني، مما يثير سؤالًا حاسمًا: لماذا لا يزال X وروبوت الدردشة الخاص به Grok متاحين بسهولة في متجر تطبيقات Apple ومتجر Google Play؟ إن وجود هذه التطبيقات، على الرغم من المخاوف بشأن الإشراف على المحتوى وانتهاكات السياسة، يسلط الضوء على التحديات المعقدة التي تواجه عمالقة التكنولوجيا في مراقبة منصاتهم وإنفاذ قواعدهم الخاصة.

تنبع المشكلة من التقدم السريع في مجال توليد الصور بالذكاء الاصطناعي. يمكن استغلال أدوات مثل Grok، على الرغم من أنها تقدم قدرات مبتكرة، لإنشاء محتوى ضار على نطاق واسع. تشير التقارير إلى أن Grok يستخدم لإنشاء آلاف الصور التي تصور بالغين وقاصرين على ما يبدو في أوضاع موحية جنسيًا. لا يتعارض هذا المحتوى مع سياسات X المعلنة ضد مواد الاعتداء الجنسي على الأطفال (CSAM) فحسب، بل يحتمل أيضًا أن ينتهك الإرشادات الصارمة التي وضعتها Apple و Google للتطبيقات الموجودة في متاجرهما.

تحظر كل من Apple و Google صراحةً التطبيقات التي تحتوي على مواد الاعتداء الجنسي على الأطفال (CSAM)، وهي سياسة عدم تسامح تعكس الطبيعة غير القانونية لهذا المحتوى في العديد من البلدان. تحظر إرشاداتهما أيضًا التطبيقات التي تعرض مواد إباحية أو تسهل التحرش أو تروج لسلوك جنسي عدواني. على سبيل المثال، يحظر متجر تطبيقات Apple صراحةً "المواد الجنسية أو الإباحية الصريحة"، بالإضافة إلى المحتوى "التشهيري أو التمييزي أو البذيء"، خاصةً إذا كان يستهدف الأفراد أو المجموعات بقصد الإذلال أو الإيذاء. وبالمثل، يحظر متجر Google Play التطبيقات التي توزع محتوى جنسيًا غير توافقي أو تسهل التهديدات والتنمر.

يثير التناقض الظاهر بين هذه السياسات والمحتوى المتداول على X تساؤلات حول آليات الإنفاذ. ما مدى فعالية عمليات المراجعة التي تجريها Apple و Google في اكتشاف وإزالة التطبيقات التي تمكن من إنشاء وتوزيع المحتوى الضار؟ ما هي المسؤولية التي يتحملها مطورو التطبيقات، مثل X Corp، في منع إساءة استخدام منصاتهم؟

توضح الدكتورة آنيا شارما، الباحثة المتخصصة في أخلاقيات الذكاء الاصطناعي وحوكمة المنصات: "التحدي لا يقتصر على تحديد الحالات الفردية للمحتوى الضار فحسب، بل أيضًا معالجة المشكلات النظامية التي تسمح بانتشاره". "أدوات توليد الصور بالذكاء الاصطناعي أصبحت متطورة بشكل متزايد، مما يجعل من الصعب التمييز بين الاستخدامات المشروعة والخبيثة. تحتاج متاجر التطبيقات إلى تكييف عمليات المراجعة الخاصة بها لمراعاة هذه الحقائق الجديدة."

المخاطر كبيرة. يمكن أن يكون لوجود تطبيقات تسهل إنشاء وتوزيع المحتوى الضار عواقب وخيمة على الضحايا. كما أنه يقوض ثقة الجمهور في النظام البيئي الرقمي ويثير مخاوف بشأن سلامة المنصات عبر الإنترنت، لا سيما بالنسبة للفئات السكانية الضعيفة مثل الأطفال.

الوضع مع Grok و X ليس حادثًا معزولًا. على مدار العامين الماضيين، أزالت Apple و Google عددًا من تطبيقات "nudify" وتطبيقات توليد الصور بالذكاء الاصطناعي التي تبين أنها تستخدم لأغراض خبيثة. ومع ذلك، غالبًا ما تكون هذه الإجراءات التفاعلية غير كافية لمعالجة المشكلة الأساسية.

بالنظر إلى المستقبل، هناك حاجة إلى نهج أكثر استباقية وتعاونية. ويشمل ذلك الاستثمار في تقنيات متقدمة للإشراف على المحتوى، وتعزيز الشراكات بين شركات التكنولوجيا ووكالات إنفاذ القانون، وتعزيز الثقافة الإعلامية بين المستخدمين لمساعدتهم على تحديد المحتوى الضار والإبلاغ عنه. علاوة على ذلك، يحتاج المطورون إلى إعطاء الأولوية للاعتبارات الأخلاقية في تصميم ونشر الأدوات التي تعمل بالذكاء الاصطناعي، وتنفيذ ضمانات لمنع سوء الاستخدام والإساءة.

تتوقف مستقبل حوكمة متاجر التطبيقات على قدرة عمالقة التكنولوجيا على تحقيق التوازن الفعال بين الابتكار والمسؤولية. تعد قضية Grok و X بمثابة تذكير صارخ بأن السعي لتحقيق التقدم التكنولوجي يجب أن يكون مصحوبًا بالالتزام بالسلامة والأخلاق ورفاهية المستخدمين. إن استمرار توفر هذه المنصات يؤكد الحاجة الملحة إلى ممارسات أكثر قوة للإشراف على المحتوى والتركيز المتجدد على حماية الفئات السكانية الضعيفة من الأضرار المحتملة للمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي.