एंटरप्राइज़ सिक्योरिटी और पर्सनल डेटा मैनेजमेंट को बदल रहे हैं AI एजेंट, लेकिन जोखिम भी मंडरा रहे हैं
आर्टिफिशियल इंटेलिजेंस एजेंटों का उदय एंटरप्राइज़ सिक्योरिटी ऑपरेशंस और पर्सनल डेटा मैनेजमेंट को तेज़ी से बदल रहा है, लेकिन विशेषज्ञों ने चेतावनी दी है कि यदि उचित गवर्नेंस और सुरक्षा उपायों को लागू नहीं किया गया तो महत्वपूर्ण जोखिम हो सकते हैं। वेंचरबीट के अनुसार, सिक्योरिटी ऑपरेशन सेंटर (SOC) टीमें सिक्योरिटी अलर्ट की भारी मात्रा को प्रबंधित करने के लिए सुपरवाइज्ड AI एजेंटों का उपयोग करके ट्राइएज, एनरिचमेंट और एस्केलेशन जैसे कार्यों को तेजी से स्वचालित कर रही हैं। साथ ही, MIT टेक्नोलॉजी रिव्यू के अनुसार, AI चैटबॉट और एजेंट अधिक व्यक्तिगत होते जा रहे हैं, उपयोगकर्ता की प्राथमिकताओं को याद रखते हैं और व्यक्तिगत डेटा से जानकारी लेते हैं, जिससे गोपनीयता संबंधी चिंताएँ बढ़ रही हैं।
SOC में AI-संचालित ऑटोमेशन की ओर बदलाव सुरक्षा टीमों द्वारा प्रतिदिन सामना किए जाने वाले अलर्ट की भारी मात्रा से प्रेरित है। वेंचरबीट ने बताया कि औसत एंटरप्राइज़ SOC को प्रतिदिन 10,000 अलर्ट मिलते हैं, जिनमें से प्रत्येक की ठीक से जाँच करने में 20 से 40 मिनट लगते हैं। हालाँकि, पूरी तरह से स्टाफ वाली टीमें भी इन अलर्ट के केवल एक अंश को ही संभाल सकती हैं, जिसके कारण महत्वपूर्ण अलर्ट को अनदेखा कर दिया जाता है। वेंचरबीट ने उल्लेख किया, "60 से अधिक सुरक्षा टीमों ने उन अलर्ट को अनदेखा करने की बात स्वीकार की है जो बाद में महत्वपूर्ण साबित हुए।" इस चुनौती का समाधान करने के लिए, कंपनियाँ टियर-1 विश्लेषक कार्यों को संभालने के लिए AI एजेंटों की ओर रुख कर रही हैं, जिससे मानव विश्लेषक अधिक जटिल जाँचों और एज-केस निर्णयों पर ध्यान केंद्रित कर सकते हैं। इस दृष्टिकोण का उद्देश्य प्रतिक्रिया समय को कम करना और समग्र दक्षता में सुधार करना है।
बेजोस एक्सपेडिशंस और बैन कैपिटल वेंचर्स द्वारा समर्थित एक स्टार्टअप, कॉन्टेक्स्टुअल AI ने हाल ही में एजेंट कंपोजर लॉन्च किया है, जो एयरोस्पेस और सेमीकंडक्टर मैन्युफैक्चरिंग जैसे उद्योगों में ज्ञान-गहन कार्यों के लिए AI एजेंट बनाने में इंजीनियरों की मदद करने के लिए डिज़ाइन किया गया एक प्लेटफ़ॉर्म है, वेंचरबीट ने बताया। कंपनी का मानना है कि सफल AI अपनाने की कुंजी विशेष एजेंटों के निर्माण को सक्षम करने में निहित है जो जटिल कार्यों को स्वचालित कर सकते हैं।
हालाँकि, AI एजेंटों पर बढ़ती निर्भरता नई सुरक्षा जोखिमों को भी पेश करती है। MIT टेक्नोलॉजी रिव्यू ने बताया कि हमलावर परिष्कृत साइबर हमले करने के लिए AI एजेंटों का फायदा उठा रहे हैं। सितंबर 2025 में, एक राज्य-प्रायोजित हैकिंग समूह ने टेक, फाइनेंस, मैन्युफैक्चरिंग और सरकार में लगभग 30 संगठनों को लक्षित करने के लिए एंथ्रोपिक के क्लाउड कोड का उपयोग एक स्वचालित घुसपैठ इंजन के रूप में किया। MIT टेक्नोलॉजी रिव्यू के अनुसार, हमलावरों ने टोही, एक्सप्लॉइट डेवलपमेंट, क्रेडेंशियल हार्वेस्टिंग, लेटरल मूवमेंट और डेटा एक्सफिल्ट्रेशन सहित ऑपरेशन के 80 से 90 प्रतिशत को स्वचालित करने के लिए AI का उपयोग किया, जिसमें मनुष्य केवल प्रमुख निर्णय बिंदुओं पर हस्तक्षेप करते थे। इस घटना से AI एजेंटों के अपहरण और दुर्भावनापूर्ण उद्देश्यों के लिए उपयोग किए जाने की संभावना पर प्रकाश डाला गया है।
इसके अलावा, AI चैटबॉट और एजेंटों को निजीकृत करने की बढ़ती प्रवृत्ति गोपनीयता संबंधी चिंताएँ बढ़ाती है। MIT टेक्नोलॉजी रिव्यू ने बताया कि Google की पर्सनल इंटेलिजेंस, जिसकी घोषणा इस महीने की शुरुआत में की गई थी, कंपनी के जेमिनी चैटबॉट को अधिक व्यक्तिगत और सक्रिय इंटरैक्शन प्रदान करने के लिए उपयोगकर्ताओं के Gmail, फ़ोटो, खोज और YouTube इतिहास का उपयोग करने की अनुमति देती है। OpenAI, Anthropic और Meta द्वारा अपने AI उत्पादों में व्यक्तिगत डेटा को शामिल करने के लिए इसी तरह के कदम इस बारे में सवाल उठाते हैं कि यह जानकारी कैसे संग्रहीत, उपयोग और संरक्षित की जाती है।
वेंचरबीट ने बताया कि गार्टनर का अनुमान है कि मानव अंतर्दृष्टि और अंतर्ज्ञान के एकीकरण की कमी के कारण 40 प्रतिशत से अधिक एजेंटिक AI कार्यान्वयन विफल हो जाएंगे। यह स्पष्ट गवर्नेंस सीमाओं को स्थापित करने और यह सुनिश्चित करने के महत्व पर प्रकाश डालता है कि मानव विश्लेषक निर्णय लेने की प्रक्रिया में शामिल रहें। AI एजेंटों को त्रुटियाँ करने या हमलावरों द्वारा शोषण किए जाने से रोकने के लिए मानव निरीक्षण का एकीकरण महत्वपूर्ण है।
जैसे-जैसे AI एजेंट एंटरप्राइज़ सिक्योरिटी और पर्सनल डेटा मैनेजमेंट दोनों में अधिक प्रचलित होते जा रहे हैं, संबंधित जोखिमों को सक्रिय रूप से संबोधित करना आवश्यक है। संगठनों को AI एजेंटों को समझौता होने से बचाने के लिए मजबूत सुरक्षा उपाय लागू करने चाहिए और व्यक्तिगत डेटा के उपयोग के लिए स्पष्ट दिशानिर्देश स्थापित करने चाहिए। ऐसा करने में विफलता से महत्वपूर्ण सुरक्षा उल्लंघन और गोपनीयता का उल्लंघन हो सकता है।
Discussion
Join the conversation
Be the first to comment