سمحت ثغرة جديدة تم اكتشافها في ChatGPT للباحثين باستخراج معلومات المستخدمين الخاصة، مما يمثل أحدث مثال في دورة متكررة من الهجمات والدفاعات في عالم روبوتات الدردشة التي تعمل بالذكاء الاصطناعي. استغل باحثون في Radware الثغرة الأمنية، التي أطلق عليها اسم "ZombieAgent"، لتسريب البيانات خلسة مباشرة من خوادم ChatGPT، مما عزز التخفي للهجوم.

يسلط هذا الحادث الضوء على تحد أساسي في أمن الذكاء الاصطناعي: التصميم المتأصل للذكاء الاصطناعي للامتثال لطلبات المستخدمين غالبًا ما يجعل الحواجز وقائية بشكل تفاعلي بدلاً من استباقي. وفقًا لتقرير Radware، سمح هجوم "ZombieAgent" بإرسال البيانات مباشرة من خوادم ChatGPT. أعطت هذه الإمكانية للهجوم تخفيًا إضافيًا، حيث بدا أن تسريب البيانات ينشأ من مصدر موثوق به.

يتضمن النمط، كما لوحظ في الحوادث السابقة مثل "ShadowLeak"، تحديد الباحثين للثغرات الأمنية واستغلالها، يليه قيام النظام الأساسي بتنفيذ دفاعات محددة. ومع ذلك، غالبًا ما تعالج هذه الدفاعات فقط تقنية الهجوم المحددة، مما يترك فئات أوسع من الثغرات الأمنية دون معالجة. يشبه هذا النهج التفاعلي تثبيت حاجز طريق جديد بعد نوع معين من حوادث السيارات، دون النظر في سلامة المركبات الأخرى.

تنبع المشكلة الأساسية من طبيعة الذكاء الاصطناعي نفسه. تم تصميم روبوتات الدردشة لتلبية طلبات المستخدمين، والتي يمكن التلاعب بها لتجاوز الإجراءات الأمنية. هذا الامتثال المتأصل يجعل من الصعب إنشاء ضمانات شاملة ضد جميع الهجمات المحتملة.

يكشف اكتشاف "ZombieAgent" عن الحاجة إلى اتباع نهج أكثر شمولية لأمن الذكاء الاصطناعي. بدلاً من التركيز فقط على التدابير التفاعلية، يجب على المطورين إعطاء الأولوية للاستراتيجيات الاستباقية التي تعالج الثغرات الأمنية الأساسية التي تمكن هذه الهجمات. ويشمل ذلك دمج بروتوكولات أمان قوية في مرحلة تصميم أنظمة الذكاء الاصطناعي والمراقبة المستمرة للتهديدات المحتملة.

تمتد آثار هذه الثغرات الأمنية إلى ما هو أبعد من المستخدمين الأفراد. يمكن أن يؤدي خرق البيانات إلى تآكل الثقة في أنظمة الذكاء الاصطناعي وإعاقة اعتمادها في مختلف القطاعات. علاوة على ذلك، فإن احتمال استغلال الجهات الخبيثة لهذه الثغرات الأمنية يثير مخاوف بشأن إساءة استخدام الذكاء الاصطناعي لأغراض شائنة.

مع استمرار تطور تكنولوجيا الذكاء الاصطناعي، فمن المرجح أن تستمر دورة الهجمات والدفاعات. تتطلب معالجة هذا التحدي جهدًا تعاونيًا بين الباحثين والمطورين وصانعي السياسات لتطوير وتنفيذ تدابير أمنية شاملة تحمي المستخدمين وتعزز تطوير الذكاء الاصطناعي بشكل مسؤول. لم يكن الوضع الحالي للثغرة الأمنية والتدابير المضادة المحددة التي نفذتها OpenAI متاحين على الفور.