عاصفة رقمية تلوح في الأفق. الآلاف من الصور المولدة بالذكاء الاصطناعي، والعديد منها مفرط في الإيحاءات الجنسية وربما استغلالي، تغرق منصة X، المعروفة سابقًا باسم Twitter. هذه الصور، التي غالبًا ما يتم إنشاؤها باستخدام روبوت الدردشة Grok التابع لإيلون ماسك، تصور بالغين، وبشكل مثير للقلق، ما يبدو أنه قاصرون في أوضاع موحية. يثير الوضع سؤالًا حاسمًا: لماذا لا يزال Grok و X متاحين بسهولة في متجر تطبيقات Apple ومتجر Google Play، على الرغم من انتهاكهما الظاهر لسياسات المحتوى الخاصة بهما؟

يسلط وجود Grok و X في متاجر التطبيقات هذه الضوء على التوتر المتزايد بين الابتكار التكنولوجي والمسؤولية الأخلاقية. لدى كل من Apple و Google إرشادات صارمة تحظر التطبيقات التي تحتوي على مواد الاعتداء الجنسي على الأطفال (CSAM) أو محتوى إباحي أو تسهل التحرش. يحظر متجر تطبيقات Apple صراحةً "المواد الجنسية الصريحة أو الإباحية"، بالإضافة إلى "المحتوى التشهيري أو التمييزي أو البذيء". وبالمثل، تحظر Google Play المحتوى الذي يشجع السلوك الجنسي المفترس، أو يوزع محتوى جنسيًا غير توافقي، أو يسهل التهديدات والتنمر.

لا تكمن المشكلة في Grok نفسه فحسب، بل في كيفية استخدامه داخل نظام X البيئي. Grok، مثل العديد من أدوات الذكاء الاصطناعي، هو تقنية قوية يمكن استخدامها للخير أو الشر. إن قدرته على إنشاء صور من مطالبات نصية تجعل من السهل على المستخدمين إنشاء ونشر محتوى ضار، مما يدفع حدود ما هو مقبول - وقانوني - عبر الإنترنت.

على مدار العامين الماضيين، أبدت Apple و Google استعدادهما لإزالة التطبيقات التي تنتهك سياساتهما. لقد اتخذوا إجراءات ضد تطبيقات "nudify" ومولدات الصور بالذكاء الاصطناعي التي تم استخدامها لإنشاء تزييف عميق وصور غير توافقية. هذا يثير السؤال: لماذا التقاعس الظاهر فيما يتعلق بـ Grok و X، خاصة بالنظر إلى حجم وطبيعة المحتوى الذي يتم إنشاؤه والذي قد يكون غير قانوني؟

أحد التفسيرات المحتملة هو الحجم الهائل للمشكلة. تعد مراقبة المحتوى الذي ينشئه المستخدمون على منصة مثل X مهمة ضخمة. يمكن أن يساعد الذكاء الاصطناعي، لكنه ليس مضمونًا. يعد تحديد ما إذا كانت الصورة تصور قاصرًا حقيقيًا أو صورة تم إنشاؤها بواسطة الذكاء الاصطناعي أمرًا صعبًا من الناحية الفنية، ويتطلب تحليلًا متطورًا للصور وفهمًا سياقيًا.

توضح الدكتورة آنيا شارما، أستاذة أخلاقيات الذكاء الاصطناعي في جامعة ستانفورد: "التحدي هو أن المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي يمكن أن يكون واقعيًا بشكل لا يصدق". "أصبح من الصعب بشكل متزايد التمييز بين الصور الحقيقية والاصطناعية، مما يجعل الإشراف على المحتوى أكثر تعقيدًا."

هناك عامل آخر هو المشهد القانوني المتطور. لا تزال القوانين المتعلقة بالمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي قيد التطوير، ولا يوجد إجماع واضح بشأن من هو المسؤول عن مراقبته. هل هو مطور الذكاء الاصطناعي، أم المنصة التي تستضيف المحتوى، أم المستخدم الذي أنشأه؟ إن الافتقار إلى أطر قانونية واضحة يجعل من الصعب على Apple و Google اتخاذ إجراءات حاسمة.

يثير استمرار توفر Grok و X في متاجر التطبيقات على الرغم من المحتوى الإشكالي مخاوف جدية بشأن فعالية سياسات الإشراف على المحتوى الحالية. كما يسلط الضوء على الحاجة إلى مزيد من التعاون بين شركات التكنولوجيا وصناع السياسات وعلماء أخلاقيات الذكاء الاصطناعي لتطوير إرشادات ولوائح واضحة للمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي.

بالنظر إلى المستقبل، من المحتمل أن يتضمن مستقبل تنظيم متجر التطبيقات مزيجًا من الحلول التكنولوجية والإشراف البشري. ستحتاج أدوات الإشراف على المحتوى المدعومة بالذكاء الاصطناعي إلى أن تصبح أكثر تطوراً، وقادرة على اكتشاف الإشارات الدقيقة التي تشير إلى محتوى ضار أو غير قانوني. في الوقت نفسه، سيظل المشرفون البشريون ضروريين لإصدار أحكام دقيقة ومعالجة الحالات الشاذة.

إن الوضع مع Grok و X بمثابة تذكير صارخ بأنه يجب أن يكون التقدم التكنولوجي مصحوبًا باعتبارات أخلاقية وضمانات قوية. تقع مسؤولية ضمان بيئة آمنة ومسؤولة عبر الإنترنت ليس فقط على عاتق شركات التكنولوجيا ولكن على جميع أصحاب المصلحة في النظام البيئي الرقمي. المخاطر كبيرة، والوقت للعمل هو الآن.