أطلقت "أوفكوم" (Ofcom)، وهي الهيئة التنظيمية للاتصالات في المملكة المتحدة، تحقيقًا في منصة التواصل الاجتماعي "X" المملوكة لإيلون ماسك، والمعروفة سابقًا باسم "تويتر"، وذلك على خلفية مخاوف بشأن إمكانية إنشاء ونشر صور جنسية مزيفة بتقنية التزييف العميق (deepfake) يتم إنشاؤها بواسطة "جروك" (Grok)، وهو روبوت الدردشة المدعوم بالذكاء الاصطناعي الخاص بـ "X". يركز التحقيق، الذي أُعلن عنه يوم الأربعاء، على ما إذا كانت "X" قد وضعت ضمانات كافية لمنع استخدام أداة الذكاء الاصطناعي لإنتاج وتوزيع محتوى غير قانوني، وتحديدًا الصور الحميمة غير التوافقية.

سوف يبحث التحقيق امتثال "X" لقانون السلامة على الإنترنت، الذي يفرض واجب رعاية قانوني على المنصات لحماية المستخدمين من المحتوى والأنشطة غير القانونية. تمتلك "أوفكوم" سلطة تغريم الشركات بما يصل إلى 10٪ من حجم مبيعاتها العالمية في حالة خرق القانون. صرح متحدث باسم "أوفكوم": "إن حماية المستخدمين من المحتوى غير القانوني عبر الإنترنت هي أولويتنا القصوى". "نحن نحقق مع "X" لتقييم ما إذا كانت قد اتخذت خطوات كافية لمنع استخدام "جروك" (Grok) لإنشاء ومشاركة صور التزييف العميق غير القانونية."

التزييف العميق (Deepfakes)، وهي كلمة منحوتة من "التعلم العميق" (deep learning) و "التزييف" (fake)، هي وسائط اصطناعية يتم فيها استبدال شخص في صورة أو مقطع فيديو موجود بشخص آخر. أثارت هذه التقنية، المدعومة بخوارزميات الذكاء الاصطناعي المتطورة، مخاوف كبيرة بشأن المعلومات المضللة وانتهاكات الخصوصية وإمكانية الاستخدام الخبيث، بما في ذلك إنشاء مواد إباحية غير توافقية. "جروك" (Grok)، روبوت الدردشة المدعوم بالذكاء الاصطناعي الخاص بـ "X"، هو نموذج لغوي كبير (LLM) تم تدريبه على مجموعة بيانات ضخمة من النصوص والأكواد، مما يجعله قادرًا على إنشاء نصوص شبيهة بالنصوص البشرية وترجمة اللغات والإجابة على الأسئلة. يكمن القلق في أن المستخدمين قد يطلبون من "جروك" (Grok) إنشاء صور ذات محتوى جنسي صريح لأفراد دون موافقتهم.

يسلط التحقيق الضوء على التحديات المتزايدة لتنظيم المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي ومسؤوليات المنصات التي تنشر هذه التقنيات. يجادل الخبراء بأنه في حين أن الذكاء الاصطناعي يقدم فوائد عديدة، إلا أنه يمثل أيضًا سبلًا جديدة للإساءة. قالت الدكتورة آنيا شارما، أستاذة أخلاقيات الذكاء الاصطناعي في جامعة كامبريدج: "إن التقدم السريع في تقنيات الذكاء الاصطناعي مثل "جروك" (Grok) يستلزم اتخاذ تدابير استباقية للتخفيف من الأضرار المحتملة". "يجب على المنصات تنفيذ ضمانات قوية لمنع إنشاء ونشر صور التزييف العميق، وخاصة تلك التي تكون ذات طبيعة جنسية صريحة وغير توافقية."

لم تصدر "X" بعد بيانًا رسميًا بشأن تحقيق "أوفكوم". ومع ذلك، صرح ماسك سابقًا بالتزامه بمكافحة إساءة استخدام الذكاء الاصطناعي على المنصة. قد يكون لنتائج التحقيق آثار كبيرة على "X" وشركات التواصل الاجتماعي الأخرى التي تدمج الذكاء الاصطناعي في خدماتها. من المرجح أن يؤثر تقييم "أوفكوم" على تطوير الأطر التنظيمية للمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي في كل من المملكة المتحدة وعلى الصعيد الدولي. التحقيق جارٍ، ومن المتوقع أن تقدم "أوفكوم" تحديثات مع تقدمه.