أطلقت "أوفكوم" (Ofcom)، وهي الهيئة التنظيمية للاتصالات في المملكة المتحدة، تحقيقًا في منصة التواصل الاجتماعي "إكس" (X) المملوكة لإيلون ماسك، والمعروفة سابقًا باسم تويتر، على خلفية مخاوف بشأن انتشار الصور الجنسية الإباحية المزيفة التي يتم إنشاؤها بواسطة "جروك" (Grok)، وهو روبوت الدردشة المدعوم بالذكاء الاصطناعي الخاص بـ "إكس". يركز التحقيق، الذي أُعلن عنه يوم الأربعاء، على ما إذا كانت "إكس" لديها أنظمة كافية لمنع إنشاء وتوزيع هذه الصور المولدة بالذكاء الاصطناعي، وخاصة تلك التي تصور أفرادًا غير موافقين.

سيقيّم التحقيق امتثال "إكس" لقانون السلامة على الإنترنت، الذي يفرض واجب رعاية قانوني على المنصات لحماية المستخدمين من المحتوى غير القانوني والضار. وتدرس "أوفكوم" تحديدًا ما إذا كانت "إكس" قد انتهكت التزاماتها فيما يتعلق بالمحتوى غير القانوني، بما في ذلك المواد الإباحية التي تستغل الأطفال جنسيًا وإنشاء ونشر الصور المزيفة العميقة دون موافقة. وينصب التركيز الرئيسي على احتمالية إساءة استخدام "جروك" لإنشاء صور جنسية واقعية ولكنها ملفقة، مما يثير مخاوف جدية بشأن الخصوصية والسمعة واحتمال التعرض للمضايقة والابتزاز.

الصور المزيفة العميقة (Deepfakes)، وهي كلمة منحوتة من "التعلم العميق" (deep learning) و "التزييف" (fake)، هي وسائط اصطناعية يتم فيها استبدال شخص في صورة أو مقطع فيديو موجود بشخص آخر. تستفيد هذه التقنية من خوارزميات الذكاء الاصطناعي المتطورة، وخاصة الشبكات العصبية العميقة، لتبديل الوجوه أو معالجة محتوى الصوت والفيديو بشكل مقنع. في حين أن الصور المزيفة العميقة لديها تطبيقات محتملة في الترفيه والتعليم، إلا أن إساءة استخدامها تشكل مخاطر كبيرة. إن إنشاء صور حميمة غير توافقية، والتي يشار إليها غالبًا باسم الصور المزيفة العميقة "الانتقامية الإباحية"، هو مصدر قلق متزايد، حيث يمكن أن تتسبب هذه الصور في ضائقة عاطفية شديدة وتشويه سمعة الضحايا.

وقال متحدث باسم "أوفكوم" في بيان: "إن حماية الناس من المحتوى غير القانوني على الإنترنت هي أولوية". "نحن نحقق مع "إكس" لتقييم ما إذا كانت قد اتخذت الخطوات المناسبة لمنع إنشاء ونشر الصور المزيفة العميقة غير القانونية على منصتها."

لم تصدر "إكس" بعد بيانًا رسميًا بشأن تحقيق "أوفكوم". ومع ذلك، صرح إيلون ماسك سابقًا بالتزامه بمكافحة إساءة استخدام الذكاء الاصطناعي على المنصة. تحظر سياسات الشركة إنشاء وتوزيع المحتوى الذي يستغل الأطفال أو يسيء إليهم أو يعرضهم للخطر، وقد نفذت تدابير للكشف عن هذه المواد وإزالتها. ومع ذلك، يجادل النقاد بأن هذه التدابير غير كافية لمعالجة التهديد المتطور بسرعة للصور المزيفة العميقة المولدة بالذكاء الاصطناعي.

يأتي التحقيق وسط تدقيق عالمي متزايد لإمكانات الذكاء الاصطناعي في إساءة الاستخدام. تكافح الحكومات والهيئات التنظيمية في جميع أنحاء العالم لتحقيق التوازن بين فوائد ابتكار الذكاء الاصطناعي والحاجة إلى حماية الأفراد من الأذى. على سبيل المثال، يضع الاتحاد الأوروبي اللمسات الأخيرة على قانون الذكاء الاصطناعي الخاص به، والذي سيفرض لوائح صارمة على أنظمة الذكاء الاصطناعي عالية المخاطر، بما في ذلك تلك المستخدمة لتوليد الصور المزيفة العميقة.

يمكن أن يكون لنتائج تحقيق "أوفكوم" آثار كبيرة على "إكس" ومنصات التواصل الاجتماعي الأخرى. إذا تبين أن "إكس" قد انتهكت قانون السلامة على الإنترنت، فقد تواجه غرامات كبيرة وتُلزم بتنفيذ ضمانات أكثر صرامة لمنع إنشاء وتوزيع المحتوى غير القانوني. التحقيق جار، ولم تقدم "أوفكوم" جدولًا زمنيًا لإنجازه. من المرجح أن تؤثر النتائج على النهج التنظيمية المستقبلية للمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي على منصات التواصل الاجتماعي.