एआई एजेंट उद्यम संचालन में क्रांति ला रहे हैं, लेकिन शासन संबंधी चिंताएँ बढ़ रही हैं
उद्यम जटिल कार्यों को स्वचालित करने के लिए तेजी से एआई एजेंटों को अपना रहे हैं, लेकिन हालिया रिपोर्टों के अनुसार संभावित जोखिमों और मजबूत शासन की आवश्यकता के बारे में चिंताएं बढ़ रही हैं। यह बदलाव ऐसे समय में आया है जब कंपनियां भारी संख्या में सुरक्षा अलर्ट से जूझ रही हैं और तकनीकी रूप से चुनौतीपूर्ण क्षेत्रों में संचालन को सुव्यवस्थित करना चाहती हैं।
एआई एजेंटों का उदय सुरक्षा अलर्ट की लगातार बढ़ती मात्रा को प्रबंधित करने की आवश्यकता से प्रेरित है। वेंचरबीट के अनुसार, औसत उद्यम सुरक्षा संचालन केंद्र (एसओसी) को प्रतिदिन 10,000 अलर्ट प्राप्त होते हैं, जिनमें से प्रत्येक की जांच करने में 20 से 40 मिनट लगते हैं। हालांकि, पूरी तरह से कर्मचारियों वाली टीमें भी इनमें से केवल 22 अलर्ट को ही संभाल सकती हैं। इससे ऐसी स्थितियां पैदा हुई हैं जहां 60% से अधिक सुरक्षा टीमों ने उन अलर्ट को अनदेखा करने की बात स्वीकार की है जो बाद में महत्वपूर्ण साबित हुए।
इस चुनौती का समाधान करने के लिए, एसओसी टीमें ट्राइएज, एनरिचमेंट और एस्केलेशन जैसे कार्यों को स्वचालित कर रही हैं, और मानव विश्लेषक जांच, समीक्षा और एज-केस निर्णयों पर अपना ध्यान केंद्रित कर रहे हैं, वेंचरबीट ने बताया। बेजोस एक्सपेडिशंस और बैन कैपिटल वेंचर्स द्वारा समर्थित एक स्टार्टअप, कॉन्टेक्चुअल एआई ने हाल ही में एजेंट कंपोजर लॉन्च किया है, जो एयरोस्पेस और सेमीकंडक्टर विनिर्माण जैसे उद्योगों में ज्ञान-गहन कार्य के लिए एआई एजेंट बनाने में इंजीनियरों की मदद करने के लिए डिज़ाइन किया गया एक प्लेटफॉर्म है, वेंचरबीट के अनुसार।
एक चीनी कंपनी, मूनशॉट एआई ने अपने ओपन-सोर्स्ड किमी के2 मॉडल को किमी के2.5 में अपग्रेड किया, जिससे यह एक कोडिंग और विजन मॉडल में बदल गया जो एजेंट स्वार्म ऑर्केस्ट्रेशन का समर्थन करता है, वेंचरबीट ने बताया। यह उद्यमों को ऐसे एजेंट बनाने की अनुमति देता है जो केंद्रीय निर्णय लेने वाले पर निर्भर रहने के बजाय स्वचालित रूप से कार्यों को पारित कर सकते हैं। वेंचरबीट के अनुसार, किमी के2 मॉडल, जिस पर किमी के2.5 आधारित है, में 1 ट्रिलियन कुल पैरामीटर और 32 बिलियन सक्रिय पैरामीटर थे।
हालांकि, एआई एजेंटों पर बढ़ती निर्भरता नई सुरक्षा जोखिम भी प्रस्तुत करती है। एमआईटी टेक्नोलॉजी रिव्यू ने बताया कि ह्यूमन-इन-द-लूप एजेंटिक कार्यों और पूरी तरह से स्वायत्त एजेंटिक वर्कफ़्लो का जबरदस्ती हैकर्स के लिए एक नया हमला वेक्टर बन रहा है। 2026 का जेमिनी कैलेंडर प्रॉम्प्ट-इंजेक्शन हमला और सितंबर 2025 में एक राज्य-प्रायोजित हैक, जिसने एंथ्रोपिक के क्लाउड कोड को एक स्वचालित घुसपैठ इंजन के रूप में इस्तेमाल किया, ऐसे हमलों के उदाहरण हैं।
एंथ्रोपिक मामले में, हमलावरों ने टोही, शोषण विकास, क्रेडेंशियल हार्वेस्टिंग, पार्श्व आंदोलन और डेटा एक्सफिल्ट्रेशन सहित ऑपरेशन के 80 से 90% को अंजाम देने के लिए एआई का उपयोग किया, जिसमें मानव केवल कुछ प्रमुख निर्णय बिंदुओं पर ही हस्तक्षेप करते थे, एमआईटी टेक्नोलॉजी रिव्यू के अनुसार। इस हमले से तकनीक, वित्त, विनिर्माण और सरकार में लगभग 30 संगठन प्रभावित हुए।
वेंचरबीट के अनुसार, गार्टनर का अनुमान है कि मानव अंतर्दृष्टि और अंतर्ज्ञान के एकीकरण की कमी के कारण 40% से अधिक एजेंटिक एआई पहल विफल हो जाएंगी। यह यह सुनिश्चित करने के लिए शासन सीमाओं की स्थापना के महत्व पर प्रकाश डालता है कि एआई एजेंटों का उपयोग प्रभावी ढंग से और नैतिक रूप से किया जाए।
Discussion
Join the conversation
Be the first to comment