هذا مقال إخباري يجمع معلومات من المصادر المقدمة:
مخاطر أمن الذكاء الاصطناعي الوكيلي تظهر مع بروز قيود نظام الاسترجاع المعزز بالتوليد (RAG)
يكشف التبني السريع لأنظمة الاسترجاع المعزز بالتوليد (RAG) عن نقاط ضعف أمنية وقيود في التعامل مع المستندات المعقدة، وفقًا لتقارير حديثة. في حين أن RAG يعد بإضفاء الطابع الديمقراطي على المعرفة المؤسسية من خلال فهرسة المستندات والاتصال بنماذج اللغة الكبيرة (LLMs)، فقد كشف باحثو الأمن عن مخاطر كبيرة مرتبطة بالذكاء الاصطناعي الوكيلي، ويجد المطورون أن خطوط RAG القياسية تكافح مع المستندات المعقدة.
وصل OpenClaw، وهو مساعد ذكاء اصطناعي مفتوح المصدر، كان يُعرف سابقًا باسم Clawdbot و Moltbot، إلى 180,000 نجمة على GitHub واجتذب 2 مليون زائر في أسبوع واحد، وفقًا لمنشئه بيتر شتاينبرغر. ومع ذلك، فقد كشف هذا الانتشار عن عيوب أمنية. وجد باحثو الأمن أكثر من 1800 حالة مكشوفة تسرب مفاتيح API وسجلات الدردشة وبيانات اعتماد الحساب. يسلط هذا الضوء على كيف يمكن لحركة الذكاء الاصطناعي الوكيلي الشعبية أن تخلق أسطح هجوم غير مُدارة غالبًا ما تفوتها أدوات الأمان التقليدية، وفقًا لـ VentureBeat. عندما تعمل الوكلاء على أجهزة "إحضار جهازك الخاص" (BYOD)، يمكن أن تصبح حزم أمان المؤسسات غير قادرة على رؤية التهديدات المحتملة.
بالإضافة إلى المخاوف الأمنية، يتم التشكيك في فعالية أنظمة RAG، لا سيما في الصناعات التي تعتمد على الوثائق المعقدة. غالبًا ما تتعامل خطوط RAG القياسية مع المستندات كسلاسل نصية مسطحة، باستخدام طرق تقسيم ثابتة الحجم يمكن أن تعطل منطق الأدلة الفنية، وفقًا لتقرير VentureBeat. يمكن لهذا النهج أن يقطع الجداول ويفصل التسميات التوضيحية عن الصور ويتجاهل التسلسل الهرمي المرئي للصفحة، مما يؤدي إلى نتائج غير دقيقة عندما يطرح المهندسون أسئلة محددة. "الفشل ليس في LLM. الفشل في المعالجة المسبقة،" ذكرت VentureBeat.
لمعالجة قيود RAG القياسية، ظهر إطار عمل جديد مفتوح المصدر يسمى PageIndex. يتخلى PageIndex عن طريقة "التقطيع والتضمين" التقليدية ويعامل استرجاع المستندات كمشكلة تنقل بدلاً من مشكلة بحث، وفقًا لـ VentureBeat. حقق هذا الإطار معدل دقة 98.7٪ على المستندات التي يفشل فيها البحث المتجه عادةً. بينما تحاول المؤسسات دمج RAG في مهام سير العمل عالية المخاطر، مثل تدقيق البيانات المالية وتحليل العقود القانونية، فإنها تواجه حواجز دقة لا يمكن لتحسين التقطيع وحده التغلب عليها.
Discussion
AI Experts & Community
Be the first to comment