أطلقت "أوفكوم" (Ofcom)، وهي الهيئة التنظيمية للاتصالات في المملكة المتحدة، تحقيقًا في منصة التواصل الاجتماعي "إكس" (X) التابعة لإيلون ماسك، والتي كانت تعرف سابقًا باسم "تويتر"، وذلك على خلفية مخاوف بشأن انتشار الصور ومقاطع الفيديو الجنسية المزيفة بتقنية التزييف العميق (deepfakes) التي ينتجها "جروك" (Grok)، وهو روبوت الدردشة المدعوم بالذكاء الاصطناعي الخاص بـ "إكس". ويركز التحقيق، الذي أُعلن عنه يوم الأربعاء، على ما إذا كانت "إكس" قد وضعت أنظمة كافية لمنع إنشاء وتوزيع المحتوى الجنسي الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي، وخاصة التزييف العميق، بما يخالف قانون السلامة على الإنترنت.

يفرض قانون السلامة على الإنترنت، الذي تم إقراره العام الماضي، واجب رعاية قانوني على منصات التواصل الاجتماعي لحماية المستخدمين من المحتوى غير القانوني والضار. وتتمتع "أوفكوم" بصلاحية تغريم الشركات بما يصل إلى 10٪ من حجم مبيعاتها العالمية في حالة انتهاك القانون. ويمثل هذا أحد أول التحقيقات الرئيسية في المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي بموجب التشريع الجديد.

التزييف العميق (Deepfakes)، وهي كلمة منحوتة من "التعلم العميق" (deep learning) و "التزييف" (fake)، هي وسائط اصطناعية يتم فيها استبدال شخص في صورة أو مقطع فيديو موجود بشخص آخر. وقد أثارت هذه التقنية، المدعومة بخوارزميات الذكاء الاصطناعي المتطورة، مخاوف كبيرة بشأن إمكانية إساءة استخدامها، بما في ذلك إنشاء مواد إباحية غير توافقية ونشر معلومات مضللة. تم تصميم "جروك" (Grok)، وهو روبوت الدردشة المدعوم بالذكاء الاصطناعي الخاص بـ "إكس"، لإنشاء نصوص وصور بناءً على مطالبات المستخدمين. وقد ظهرت مخاوف من أن المستخدمين يستغلون "جروك" لإنشاء صور ومقاطع فيديو واقعية وجنسية صريحة بتقنية التزييف العميق لأفراد، غالبًا دون علمهم أو موافقتهم.

وقال متحدث باسم "أوفكوم" في بيان: "إن حماية المستخدمين من المحتوى غير القانوني والضار عبر الإنترنت هي أولويتنا القصوى. نحن نحقق فيما إذا كانت "إكس" قد اتخذت خطوات كافية لمعالجة المخاطر التي تشكلها الصور ومقاطع الفيديو الجنسية المزيفة بتقنية التزييف العميق التي يتم إنشاؤها بواسطة الذكاء الاصطناعي على منصتها. هذا مجال جديد وسريع التطور، ونحن بحاجة إلى التأكد من أن المنصات عبر الإنترنت تقوم بتكييف تدابير السلامة الخاصة بها وفقًا لذلك."

لم تصدر "إكس" بعد بيانًا رسميًا بشأن تحقيق "أوفكوم". ومع ذلك، فقد صرح إيلون ماسك سابقًا بالتزامه بمكافحة إساءة استخدام الذكاء الاصطناعي على المنصة. وقد نفذت الشركة بعض الإجراءات لاكتشاف وإزالة المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي والذي ينتهك سياساتها، لكن النقاد يجادلون بأن هذه الإجراءات غير كافية.

يسلط التحقيق الضوء على التحديات المتزايدة لتنظيم المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي وإمكانية إساءة استخدام هذه التقنيات. ويؤكد الخبراء على الحاجة إلى ضمانات قوية ومبادئ توجيهية أخلاقية لمنع إنشاء ونشر التزييف العميق الضار. وقالت الدكتورة إميلي كارتر، أستاذة أخلاقيات الذكاء الاصطناعي في جامعة أكسفورد: "هذا التحقيق هو خطوة حاسمة في محاسبة منصات التواصل الاجتماعي على المحتوى المستضاف على مواقعها. إنه يرسل رسالة واضحة مفادها أنه يجب على الشركات معالجة المخاطر المرتبطة بالمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي بشكل استباقي وحماية المستخدمين من الأذى."

قد يكون لنتائج تحقيق "أوفكوم" آثار كبيرة على "إكس" ومنصات التواصل الاجتماعي الأخرى التي تستخدم الذكاء الاصطناعي. وقد يؤدي ذلك إلى لوائح أكثر صرامة وزيادة التدقيق في المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي، مما قد يشكل مستقبل السلامة عبر الإنترنت والإشراف على المحتوى. ومن المتوقع أن تصدر "أوفكوم" نتائجها في الأشهر المقبلة. ومن المرجح أن يركز التحقيق على سياسات الإشراف على المحتوى الخاصة بـ "إكس"، وقدرات الكشف عن الذكاء الاصطناعي، واستجابتها لتقارير المستخدمين عن محتوى التزييف العميق.