وكلاء الذكاء الاصطناعي يخترقون الأمن، وGalaxy يزيل التجاعيد، وأنظمة RAG تفشل!

إليكم مقالًا إخباريًا يجمع معلومات من المصادر المقدمة:

تقارير حديثة تسلط الضوء على تطورات الذكاء الاصطناعي والمخاوف الأمنية

ألقت تقارير حديثة الضوء على التطورات في مجال الذكاء الاصطناعي، بدءًا من وكلاء الترميز وصولًا إلى التحديات في معالجة المستندات المعقدة، مع إثارة مخاوف أمنية كبيرة أيضًا. إن التطور السريع ونشر أدوات الذكاء الاصطناعي، وخاصة الذكاء الاصطناعي الوكيلي، قد كشف عن نقاط ضعف في النماذج الأمنية الحالية، وفقًا لمصادر متعددة.

أحد مجالات التركيز هو فعالية أنظمة الاسترجاع المعزز بالتوليد (RAG). وفقًا لموقع VentureBeat، قامت العديد من المؤسسات بنشر أنظمة RAG مع وعد بإضفاء الطابع الديمقراطي على المعرفة المؤسسية عن طريق فهرسة ملفات PDF وربطها بنماذج لغوية كبيرة (LLMs). ومع ذلك، غالبًا ما تقصر هذه الأنظمة، خاصة في الصناعات التي تعتمد على الهندسة الثقيلة. وذكر موقع VentureBeat أن "الفشل ليس في النموذج اللغوي الكبير. الفشل يكمن في المعالجة المسبقة"، مشيرًا إلى أن خطوط أنابيب RAG القياسية تعامل المستندات كسلاسل نصية مسطحة، باستخدام تقسيم ثابت الحجم يمكن أن يدمر منطق الأدلة الفنية عن طريق تقطيع الجداول وفصل التسميات التوضيحية عن الصور.

وفي الوقت نفسه، أدى صعود الذكاء الاصطناعي الوكيلي إلى ظهور مخاطر أمنية جديدة. اكتسب OpenClaw، وهو مساعد ذكاء اصطناعي مفتوح المصدر، زخمًا كبيرًا، حيث جمع أكثر من 180,000 نجمة على GitHub واجتذب 2 مليون زائر في أسبوع واحد، وفقًا لمنشئه بيتر شتاينبرجر، حسبما أفاد موقع VentureBeat. ومع ذلك، اكتشف باحثو الأمن أكثر من 1800 حالة مكشوفة تسرب مفاتيح واجهة برمجة التطبيقات وسجلات الدردشة وبيانات اعتماد الحساب. وأشار موقع VentureBeat إلى أن هذه الحركة الشعبية للذكاء الاصطناعي الوكيلي تمثل سطح هجوم كبير وغير مُدار لا تستطيع العديد من الأدوات الأمنية اكتشافه. وأكد التقرير أن المحيطات الأمنية التقليدية غالبًا ما تفشل في رؤية تهديدات الذكاء الاصطناعي الوكيلي، خاصة عندما يعمل الوكلاء على أجهزة BYOD.

كما أن تطوير وكلاء الترميز يتقدم أيضًا، حيث يستكشف المطورون تصميمات بسيطة وقائمة على الرأي. وقد فصل أحد المطورين تجربته في بناء مثل هذا الوكيل، مسلطًا الضوء على استخدام نماذج متعددة، ونتائج أدوات مقسمة منظمة، وموجه نظام بسيط. وأشار المطور إلى خيارات التصميم مثل "لا توجد مهام مدمجة"، و "لا يوجد وضع تخطيط"، و "لا يوجد دعم MCP"، مما يعكس التركيز على البساطة والمباشرة.