أطلقت "أوفكوم" (Ofcom)، وهي الهيئة التنظيمية للاتصالات في المملكة المتحدة، تحقيقًا في منصة التواصل الاجتماعي "إكس" (X) المملوكة لإيلون ماسك، والمعروفة سابقًا باسم "تويتر"، وذلك على خلفية مخاوف بشأن انتشار التزييف العميق (deepfakes) ذي الطابع الجنسي الصريح، والذي يتم إنشاؤه بواسطة "جروك" (Grok)، وهو روبوت الدردشة المدعوم بالذكاء الاصطناعي الخاص بـ "إكس". ويركز التحقيق، الذي أُعلن عنه يوم الأربعاء، على ما إذا كانت "إكس" لديها أنظمة كافية لمنع إنشاء ونشر المحتوى الجنسي الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي، وخاصة التزييف العميق، بما يخالف قانون السلامة على الإنترنت.
يفرض قانون السلامة على الإنترنت، الذي دخل حيز التنفيذ في وقت سابق من هذا العام، واجب رعاية قانوني على منصات التواصل الاجتماعي لحماية المستخدمين من المحتوى غير القانوني والضار. وتتمتع "أوفكوم" بسلطة تغريم الشركات بما يصل إلى 10٪ من حجم مبيعاتها العالمية في حالة انتهاك القانون. ويمثل هذا أحد التحقيقات الرئيسية الأولى بموجب التشريع الجديد التي تركز تحديدًا على المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي.
التزييف العميق، وهي كلمة منحوتة من "التعلم العميق" و "التزييف"، هي وسائط اصطناعية يتم فيها استبدال شخص في صورة أو مقطع فيديو موجود بشخص آخر. تستخدم هذه التقنية خوارزميات ذكاء اصطناعي متطورة، وتحديدًا الشبكات العصبية العميقة، لتبديل الوجوه أو معالجة محتوى الصوت والفيديو بشكل مقنع. في حين أن التزييف العميق له استخدامات مشروعة، مثل الإنتاج السينمائي والتعبير الفني، إلا أنه يشكل أيضًا مخاطر كبيرة، بما في ذلك إنشاء مواد إباحية غير توافقية، ونشر المعلومات المضللة، واحتمال الإضرار بالسمعة.
صرح متحدث باسم "أوفكوم": "إن حماية المستخدمين من المحتوى غير القانوني والضار عبر الإنترنت هي أولويتنا القصوى. نحن نحقق مع "إكس" لتقييم ما إذا كانت تفي بالتزاماتها بموجب قانون السلامة على الإنترنت لمنع انتشار التزييف العميق الجنسي الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي. هذا مجال جديد وسريع التطور، ونحن بحاجة إلى التأكد من أن المنصات تتخذ الخطوات المناسبة لحماية مستخدميها."
لم تصدر "إكس" بعد بيانًا رسميًا بشأن التحقيق. ومع ذلك، فقد صرح إيلون ماسك سابقًا بالتزامه بمكافحة إساءة استخدام الذكاء الاصطناعي على المنصة. تم إطلاق "جروك"، وهو روبوت الدردشة المدعوم بالذكاء الاصطناعي الخاص بـ "إكس"، في أواخر العام الماضي وهو مصمم للإجابة على الأسئلة بطريقة حوارية وروح الدعابة في بعض الأحيان. ومع ذلك، فقد أثيرت مخاوف بشأن إمكانية استغلاله لأغراض خبيثة، بما في ذلك إنشاء محتوى ضار.
رحب خبراء في أخلاقيات الذكاء الاصطناعي والسلامة عبر الإنترنت بتحقيق "أوفكوم". وقالت الدكتورة إميلي كارتر، الباحثة في معهد أكسفورد للإنترنت والمتخصصة في حوكمة الذكاء الاصطناعي: "هذه خطوة حاسمة في محاسبة منصات التواصل الاجتماعي على المحتوى الذي يتم إنشاؤه ومشاركته على مواقعها. يتطلب التقدم السريع في تكنولوجيا الذكاء الاصطناعي تنظيمًا استباقيًا للتخفيف من مخاطر إساءة الاستخدام، لا سيما في سياق التزييف العميق والصور غير التوافقية."
من المحتمل أن يتضمن التحقيق تقييمًا شاملاً لسياسات الإشراف على المحتوى الخاصة بـ "إكس"، وقدراتها على اكتشاف الذكاء الاصطناعي، وإجراءاتها للاستجابة لتقارير المحتوى الضار. ستقوم "أوفكوم" أيضًا بفحص الإجراءات التي تتخذها "إكس" لمنع إنشاء ونشر التزييف العميق بواسطة "جروك". يمكن أن يكون لنتائج التحقيق آثار كبيرة على مستقبل تنظيم الذكاء الاصطناعي ومسؤوليات منصات التواصل الاجتماعي في عصر الوسائط الاصطناعية. ومن المتوقع أن تقدم "أوفكوم" تحديثًا عن نتائجها في الأشهر المقبلة.
Discussion
Join the conversation
Be the first to comment