يطالب العديد من أعضاء مجلس الشيوخ الأمريكي شركات التكنولوجيا الكبرى، بما في ذلك X وMeta وAlphabet وSnap وReddit وTikTok، بتقديم إجابات بشأن جهودها لمكافحة انتشار الصور الجنسية المزيفة (deepfakes) على منصاتها. وفي رسالة أُرسلت إلى قيادة هذه الشركات، طلب أعضاء مجلس الشيوخ تقديم دليل على وجود حماية وسياسات قوية مصممة للحد من انتشار الصور الجنسية التي يتم إنشاؤها بواسطة الذكاء الاصطناعي.
كما طالب أعضاء مجلس الشيوخ الشركات بالاحتفاظ بجميع المستندات والمعلومات المتعلقة بإنشاء واكتشاف والإشراف وتحقيق الدخل من الصور الجنسية التي يتم إنشاؤها بواسطة الذكاء الاصطناعي، بالإضافة إلى أي سياسات ذات صلة. يأتي هذا الطلب في أعقاب تقارير تسلط الضوء على السهولة التي يمكن بها لنماذج الذكاء الاصطناعي، مثل Grok (الذي طورته X و xAI)، إنشاء صور جنسية وعارية، بما في ذلك تلك التي تصور النساء والأطفال.
وتؤكد الرسالة المخاوف من أن الضمانات الحالية للمنصات ضد الصور الجنسية غير التوافقية قد تكون غير كافية. وذكر أعضاء مجلس الشيوخ: "نحن ندرك أن العديد من الشركات تحتفظ بسياسات ضد الصور الحميمة غير التوافقية والاستغلال الجنسي، وأن العديد من الذكاء الاصطناعي"، مما يعني أن الإجراءات الحالية لا تعالج القضية بشكل كاف.
يأتي طلب الحصول على المعلومات بعد فترة وجيزة من إعلان X عن تحديثات لـ Grok، تحظر على الذكاء الاصطناعي إنشاء تعديلات لأشخاص حقيقيين في ملابس فاضحة. كما قيدت X إنشاء الصور وتعديلها عبر Grok على المشتركين الذين يدفعون. تم تنفيذ هذه التغييرات استجابة لتقارير إعلامية تفصل قدرة الذكاء الاصطناعي على إنشاء محتوى صريح.
تشكل الصور المزيفة (Deepfakes)، التي تستخدم الذكاء الاصطناعي لإنشاء صور ومقاطع فيديو واقعية ولكنها ملفقة، تحديًا كبيرًا لشركات التكنولوجيا. يمكن استخدام هذه التقنية لإنشاء صور حميمة غير توافقية، مما يساهم في التحرش والاستغلال عبر الإنترنت. يعكس استفسار أعضاء مجلس الشيوخ قلقًا متزايدًا بشأن إمكانية إساءة استخدام الذكاء الاصطناعي بهذه الطريقة ومسؤولية شركات التكنولوجيا عن التخفيف من هذه المخاطر.
يسعى أعضاء مجلس الشيوخ للحصول على تفسيرات تفصيلية لاستراتيجيات الشركات للكشف عن الصور الجنسية المزيفة وإزالتها، بالإضافة إلى معلومات حول كيفية منعهم من استخدام التكنولوجيا لإنشاء وتوزيع هذا المحتوى. من المحتمل أن توفر الوثائق المطلوبة نظرة ثاقبة للتحديات التقنية والاعتبارات السياسية المتضمنة في معالجة هذه القضية. من المرجح أن تتضمن الخطوات التالية رد الشركات على استفسارات أعضاء مجلس الشيوخ واحتمال مواجهة مزيد من التدقيق بناءً على ردودهم.
Discussion
Join the conversation
Be the first to comment