ظهور وكلاء الذكاء الاصطناعي كمحور للابتكار والمخاوف الأمنية
إن ظهور وكلاء الذكاء الاصطناعي، وهي برامج مصممة لأداء المهام بشكل مستقل، يثير الحماس والقلق داخل مجتمع التكنولوجيا، حيث يستكشف المطورون إمكاناتهم بينما يحذر باحثو الأمن من نقاط ضعف جديدة. يتم تطوير هؤلاء الوكلاء، القادرين على بناء البرامج وحل المشكلات والتواصل مع بعضهم البعض، باستخدام أدوات جديدة تمنح الذكاء الاصطناعي "قوى خارقة"، وفقًا لموقع Vox. في الوقت نفسه، تتطور التهديدات الأمنية لاستغلال هذه التطورات، كما يتضح من الهجمات الأخيرة التي تستهدف المطورين.
يعمل المطورون بنشاط على بناء ونشر وكلاء الذكاء الاصطناعي. أحد الأمثلة على ذلك هو "Resilient Workflow Sentinel"، وهو مُنسق مهام LLM محلي وغير متصل بالإنترنت بحجم 7 مليارات معلمة مصمم لتحليل الإلحاح ومناقشة المهام وتحقيق التوازن في الحمل، ويعمل على أجهزة استهلاكية مثل وحدات معالجة الرسومات RTX 3080/4090، كما هو مفصل على GitHub. يهدف مشروع آخر، "Calfkit SDK"، إلى بناء وكلاء ذكاء اصطناعي غير متزامنين وموزعين، مما يسمح للمطورين بإنشاء وكلاء مع خدمات مستقلة تتواصل بشكل غير متزامن، وفقًا لمعلومات من GitHub. يؤكد هذا النهج على بنية تعتمد على الأحداث لتجنب مشاكل قابلية التوسع المرتبطة بتطبيقات الويب التقليدية.
يحدث التطور السريع لوكلاء الذكاء الاصطناعي على خلفية تزايد التهديدات السيبرانية. سلسلة هجمات جديدة، وهي محور إدارة الهوية والوصول (IAM)، تستغل المطورين من خلال حزم ضارة متنكرة في شكل تقييمات ترميز مشروعة، وفقًا لموقع VentureBeat، نقلاً عن أبحاث CrowdStrike. يسمح هذا الهجوم للمهاجمين بسرقة بيانات اعتماد السحابة، مثل مفاتيح API ورموز الوصول الشخصية، مما يمكنهم من تحويل العملات المشفرة والعمل دون أن يتم اكتشافهم. وبحسب ما ورد تورطت إحدى المجموعات في عمليات عملات مشفرة تزيد قيمتها عن 2 مليار دولار.
إن إمكانات وكلاء الذكاء الاصطناعي كبيرة. كتب آدم كلارك إستس، مراسل تكنولوجيا أول في Vox: "يعتقد بعض الأشخاص الأذكياء أننا نشهد لحظة ChatGPT أخرى". ومع ذلك، فإن التطور السريع لهذه التقنيات يثير أيضًا مخاوف. إن تطوير وكلاء الذكاء الاصطناعي يخلق مشهدًا جديدًا لكل من الابتكار والاستغلال المحتمل.
Discussion
AI Experts & Community
Be the first to comment