تتصاعد التهديدات المدعومة بالذكاء الاصطناعي، مع الانتشار السريع لوكلاء الذكاء الاصطناعي مفتوح المصدر في بيئات العمل واستغلال الجهات الفاعلة الضارة للثغرات الأمنية، وفقًا لتقارير متعددة. أثار الانتشار السريع لأدوات مثل OpenClaw، التي تمنح الوكلاء المستقلين وصولاً إلى shell وامتيازات نظام الملفات والوصول إلى البيانات الحساسة، قلق قادة الأمن. في الوقت نفسه، يثير استخدام الذكاء الاصطناعي في العمليات الحساسة، مثل نشر نموذج Claude الخاص بشركة Anthropic من قبل الجيش الأمريكي، أسئلة أخلاقية وأمنية إضافية.
أفادت VentureBeat أن OpenClaw، وهو وكيل ذكاء اصطناعي مفتوح المصدر، شهد زيادة في عمليات النشر المعرضة للجمهور من حوالي 1000 إلى أكثر من 21000 في أقل من أسبوع. أدى هذا التبني السريع، إلى جانب سهولة التثبيت عبر أوامر سطر واحد، إلى قيام الموظفين بنشر الوكيل على أجهزة الشركات. أكدت تليمترية GravityZone من Bitdefender أن الموظفين كانوا ينشرون OpenClaw على أجهزة الشركات، مما يمنح الوصول إلى البيانات الحساسة. سلط نفس المصدر الضوء على أن خلل تنفيذ التعليمات البرمجية عن بعد بنقرة واحدة، CVE-2026-25253، المصنف CVSS 8.8، يسمح للمهاجمين بسرقة رموز المصادقة وتحقيق اختراق كامل للبوابة. توجد أيضًا ثغرة أمنية منفصلة لحقن الأوامر.
يمثل التحول بعيدًا عن نظام Google البيئي للهواتف المحمولة تحديات إضافية، حيث غالبًا ما تفتقر البدائل التي تركز على الخصوصية إلى الوظائف الكاملة، وفقًا لـ VentureBeat و Wired. في حين أن استبدال خدمات Google أمر مباشر نسبيًا، فإن الهروب من نظام تشغيل Google للهواتف المحمولة أكثر صعوبة. تتوفر خيارات مثل الأنظمة المستندة إلى Android التي تم إزالة خدمات Google منها والأنظمة المستندة إلى Linux، على الرغم من أن نظام iOS يظل البديل الأكثر وظيفية. تعطي هذه البدائل الأولوية للخصوصية عن طريق إزالة خدمات Google، ولكنها غالبًا ما تأتي مع قيود في الوظائف.
أفادت صحيفة The Guardian أن الجيش الأمريكي استخدم نموذج Claude الخاص بشركة Anthropic للذكاء الاصطناعي خلال غارة في فنزويلا، على الرغم من أن Anthropic لم تؤكد استخدامه. أفادت صحيفة The Wall Street Journal أن Claude تم نشره من خلال شراكة Anthropic مع Palantir Technologies، على الرغم من سياسات Anthropic التي تحظر استخدام الأداة لأغراض العنف أو المراقبة.
يمتد صعود التهديدات المدعومة بالذكاء الاصطناعي إلى ما هو أبعد من بيئات الشركات. أشارت VentureBeat أيضًا إلى نقاط ضعف في منصات الذكاء الاصطناعي، بما في ذلك اختراق جهاز كمبيوتر محمول لمراسل من BBC من خلال أداة ترميز بالذكاء الاصطناعي وبرامج ضارة لنظام Android متخفية كتطبيق مكافحة فيروسات مزيف مستضاف على Hugging Face.
سلط Hacker News الضوء على أهمية الصحة القابلة للتحقق في تطوير البرامج التي تدعمها LLM، مستشهدًا باستخدام شبكات بتري الملونة (CPNs) كحل محتمل لبناء أنظمة ذكاء اصطناعي أكثر قوة وأمانًا. توفر CPNs، وهي امتداد لشبكات بتري، إطارًا لإنشاء أنظمة قابلة للتحقق.
Discussion
AI Experts & Community
Be the first to comment