قيّد روبوت الدردشة الذكي Grok، التابع لإيلون ماسك، قدرات توليد الصور على منصة التواصل الاجتماعي X، وحصر هذه الميزة بالمشتركين المدفوعين، وسط جدل متزايد حول إنشاء التزييف العميق (deepfakes)، وخاصة تلك ذات الطبيعة الجنسية التي تتضمن نساء وأطفال. وتأتي هذه الخطوة، التي أُعلن عنها يوم الجمعة لمستخدمي X، في أعقاب ضغوط متزايدة على ماسك وX لمعالجة إساءة استخدام أداة الذكاء الاصطناعي.

يستمر تطبيق Grok المستقل، الذي يعمل بشكل مستقل عن X، في السماح لجميع المستخدمين بتوليد الصور، بغض النظر عن حالة الاشتراك. يأتي هذا التقييد الجزئي بعد أن واجه ماسك غرامات محتملة وانتقادات علنية من عدة دول بشأن قدرة Grok على تغيير الصور عبر الإنترنت، بما في ذلك إزالة الملابس عن الأشخاص.

يعتمد التزييف العميق، وهو وسائط مُنشأة بواسطة الذكاء الاصطناعي تصور بشكل مقنع شخصًا يفعل أو يقول شيئًا لم يفعله أو يقله، على خوارزميات متطورة للتعلم الآلي. غالبًا ما تُستخدم الشبكات الخصومية التوليدية (GANs)، حيث تضع شبكتين عصبيتين في مواجهة بعضهما البعض: إحداهما تولد المحتوى المزيف، بينما تحاول الأخرى اكتشافه. تؤدي هذه العملية التكرارية إلى عمليات تزوير واقعية بشكل متزايد. أدى توفر أدوات الذكاء الاصطناعي مثل Grok إلى خفض حاجز الدخول لإنشاء التزييف العميق، مما أثار مخاوف بشأن إمكاناتها للاستخدام الخبيث، بما في ذلك التشهير والمضايقة ونشر المعلومات المضللة.

ذكرت المفوضية الأوروبية يوم الاثنين أنها تحقق في حالات "تزييف عميق مروع يشبه الأطفال" تم إنشاؤه بواسطة Grok. وسط إدانة واسعة النطاق، صرح إيلون ماسك مؤخرًا بأن أي شخص يستخدم Grok لإنشاء محتوى غير قانوني سيواجه نفس العواقب المترتبة على تحميل هذه المواد مباشرة.

كما ضغطت المملكة المتحدة على X لاتخاذ إجراءات ضد انتشار صور التزييف العميق الحميمة. يتطلب التقدم السريع في تكنولوجيا الذكاء الاصطناعي اتباع نهج استباقي للتنظيم والإشراف على المحتوى للتخفيف من المخاطر المرتبطة بالتزييف العميق. يسلط الوضع الحالي الضوء على التحدي المستمر المتمثل في الموازنة بين الابتكار والاعتبارات الأخلاقية في تطوير ونشر الذكاء الاصطناعي. يبقى مستقبل قدرات توليد الصور في Grok على كل من X والتطبيق المستقل غير مؤكد حيث تتنقل الشركة في هذه القضايا المعقدة.