أقرت OpenAI بأن حقن المطالبات، وهو ثغرة أمنية في نماذج الذكاء الاصطناعي، من غير المرجح أن يتم حلها بالكامل، على غرار عمليات الاحتيال والهندسة الاجتماعية على الإنترنت. وأكدت الشركة، التي تنشر وكلاء الذكاء الاصطناعي على نطاق واسع، في منشور حديث أن وضع الوكيل يوسع سطح التهديد الأمني، وحتى الدفاعات المتطورة لا يمكن أن تقدم ضمانات حتمية. هذا الاعتراف يصدق على ما فهمه ممارسو الأمن منذ فترة طويلة: توجد فجوة كبيرة بين استراتيجيات نشر الذكاء الاصطناعي وتنفيذ تدابير أمنية قوية.

يسلط اعتراف OpenAI الضوء على التحديات المتزايدة التي تواجهها المؤسسات في تأمين أنظمة الذكاء الاصطناعي الموجودة بالفعل في مرحلة الإنتاج. يشكل حقن المطالبات، حيث يتلاعب المتسللون بنماذج الذكاء الاصطناعي من خلال مطالبات مصممة خصيصًا، تهديدًا مستمرًا. وفقًا لـ OpenAI، يتطلب معالجة هذه المشكلة اتباع نهج متعدد الطبقات، ولكن يبقى الاستئصال الكامل بعيد المنال.

كشف استطلاع حديث أجرته VentureBeat وشمل 100 من صناع القرار التقنيين أن 34.7٪ فقط من المؤسسات قامت بنشر دفاعات مخصصة لحقن المطالبات. أما النسبة المتبقية البالغة 65.3٪ إما أنها لم تستثمر في هذه الأدوات أو لم تتمكن من تأكيد وجودها داخل بنيتها التحتية الأمنية. تؤكد هذه البيانات على التأخر في استعداد المؤسسات لمكافحة هجمات حقن المطالبات.

يستغل حقن المطالبات الطريقة التي تفسر بها نماذج الذكاء الاصطناعي التعليمات المضمنة في مدخلات المستخدم وتنفيذها. يمكن للمهاجمين صياغة مطالبات تتسبب في تجاوز الذكاء الاصطناعي لبروتوكولات السلامة المقصودة، أو الكشف عن معلومات حساسة، أو تنفيذ إجراءات غير مصرح بها. يمكن أن تتراوح العواقب من خروقات البيانات والتلاعب بالنظام إلى نشر المعلومات المضللة.

يؤكد خبراء الأمن على أن حقن المطالبات ليس مجرد مشكلة تقنية ولكنه أيضًا مشكلة مجتمعية. مع تزايد دمج الذكاء الاصطناعي في البنية التحتية الحيوية، يزداد احتمال استغلال المتسللين لهذه الثغرات الأمنية. تتطلب معالجة هذا التحدي جهدًا تعاونيًا يشمل مطوري الذكاء الاصطناعي وباحثي الأمن وصانعي السياسات.

تتضمن الحالة الحالية لدفاعات حقن المطالبات مجموعة من التقنيات، بما في ذلك تطهير المدخلات والتدريب الخصومي واكتشاف الحالات الشاذة. ومع ذلك، فإن هذه الأساليب ليست مضمونة، ويقوم المهاجمون باستمرار بتطوير طرق جديدة للتحايل عليها. يشير اعتراف OpenAI إلى دعوة لزيادة الاستثمار في أبحاث أمن الذكاء الاصطناعي وتطوير آليات دفاع أكثر قوة.

بالنظر إلى المستقبل، من المرجح أن يكون التركيز على تطوير نماذج الذكاء الاصطناعي التي تكون بطبيعتها أكثر مقاومة لهجمات حقن المطالبات. قد يشمل ذلك دمج طرق التحقق الرسمية، وتحسين قابلية تفسير اتخاذ القرارات في الذكاء الاصطناعي، ووضع معايير على مستوى الصناعة لأمن الذكاء الاصطناعي. يتطلب التطور المستمر لتكنولوجيا الذكاء الاصطناعي اتباع نهج استباقي وقابل للتكيف للأمن، مما يضمن مواكبة الدفاعات للتهديدات الناشئة.