أطلقت "أوفكوم" (Ofcom)، وهي الهيئة التنظيمية للاتصالات في المملكة المتحدة، تحقيقًا في منصة التواصل الاجتماعي "إكس" (X) المملوكة لإيلون ماسك، والتي كانت تعرف سابقًا باسم "تويتر"، وذلك على خلفية مخاوف بشأن انتشار التزييف العميق (deepfakes) ذي الطابع الجنسي الصريح الذي يولده برنامج "جروك" (Grok)، وهو روبوت الدردشة المدعوم بالذكاء الاصطناعي الخاص بـ "إكس". ويركز التحقيق، الذي أُعلن عنه يوم الأربعاء، على ما إذا كانت "إكس" قد وفرت الحماية الكافية لمستخدميها، وخاصة الأطفال، من المحتوى الضار الذي تولده أداة الذكاء الاصطناعي.
سوف يبحث التحقيق مدى امتثال "إكس" لقانون السلامة على الإنترنت، الذي يفرض واجب رعاية قانوني على المنصات لحماية المستخدمين من المحتوى غير القانوني والضار. وستقوم "أوفكوم" على وجه التحديد بتقييم فعالية أنظمة وعمليات "إكس" لتحديد وإزالة التزييف العميق الجنسي الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي، بالإضافة إلى تدابيرها لمنع تعرض المستخدمين لمثل هذه المواد.
التزييف العميق (Deepfakes)، وهي كلمة منحوتة من "التعلم العميق" (deep learning) و "التزييف" (fake)، هي وسائط اصطناعية يتم فيها استبدال شخص في صورة أو مقطع فيديو موجود بشخص آخر. يمكن استخدام هذه التقنية، المدعومة بخوارزميات الذكاء الاصطناعي المتطورة، لإنشاء محتوى واقعي ولكنه ملفق بالكامل. في حين أن التزييف العميق له تطبيقات محتملة مختلفة، بما في ذلك الترفيه والتعليم، فإنه يشكل أيضًا مخاطر كبيرة، لا سيما عند استخدامه لإنشاء مواد إباحية غير توافقية أو نشر معلومات مضللة. إن السهولة النسبية التي يمكن بها الآن إنشاء ونشر التزييف العميق المقنع أثارت مخاوف جدية بشأن قدرتها على التسبب في ضرر للأفراد والمجتمع.
وقال متحدث باسم "أوفكوم" في بيان: "إن حماية الأطفال عبر الإنترنت أمر غير قابل للتفاوض، ويمنحنا قانون السلامة على الإنترنت الأدوات اللازمة لمحاسبة المنصات". "نحن نحقق مع "إكس" للتأكد من أنها تتخذ الخطوات اللازمة لمنع انتشار المحتوى الضار الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي."
لم تصدر "إكس" بعد بيانًا رسميًا بشأن تحقيق "أوفكوم". ومع ذلك، صرح إيلون ماسك سابقًا بأن "إكس" ملتزمة بمكافحة انتشار المحتوى الضار على منصتها وتعمل بنشاط على تحسين أنظمة الإشراف على المحتوى الخاصة بها.
يأتي هذا التحقيق وسط تدقيق عالمي متزايد للأضرار المحتملة المرتبطة بالمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي. وتكافح الحكومات والهيئات التنظيمية في جميع أنحاء العالم كيفية تنظيم هذه التكنولوجيا سريعة التطور مع تعزيز الابتكار. فعلى سبيل المثال، يضع الاتحاد الأوروبي اللمسات الأخيرة على قانون الذكاء الاصطناعي الخاص به، والذي سيضع إطارًا قانونيًا شاملاً لتطوير ونشر الذكاء الاصطناعي.
يمكن أن يكون لنتائج تحقيق "أوفكوم" آثار كبيرة على "إكس" ومنصات التواصل الاجتماعي الأخرى التي تدمج الذكاء الاصطناعي بشكل متزايد في خدماتها. إذا وجدت "أوفكوم" أن "إكس" قد فشلت في حماية مستخدميها بشكل كافٍ من المحتوى الضار الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي، فقد تواجه غرامات كبيرة وتُلزم بتنفيذ تدابير أكثر صرامة للإشراف على المحتوى. التحقيق جار، ومن المتوقع أن تقدم "أوفكوم" تحديثًا عن نتائجها في الأشهر المقبلة.
Discussion
Join the conversation
Be the first to comment