माइक्रोसॉफ्ट ने अपने कोपायलट एआई असिस्टेंट में एक सुरक्षा भेद्यता (security vulnerability) को ठीक किया है जिसके कारण हमलावर एक हानिरहित दिखने वाले लिंक पर एक क्लिक के माध्यम से संवेदनशील उपयोगकर्ता डेटा निकाल सकते थे। वेरोनिस के सुरक्षा शोधकर्ताओं ने इस खामी की खोज की और प्रदर्शित किया कि कैसे एक बहु-चरणीय हमला उपयोगकर्ता का नाम, स्थान और उनकी कोपायलट चैट इतिहास से विवरण जैसी जानकारी निकाल सकता है।

हमला, एक बार जब उपयोगकर्ता द्वारा लिंक पर क्लिक करने से शुरू हो जाता है, तो कोपायलट चैट विंडो बंद होने के बाद भी चलता रहता था, जिसके लिए आगे किसी बातचीत की आवश्यकता नहीं होती थी। वेरोनिस के अनुसार, इस शोषण ने उद्यम एंडपॉइंट सुरक्षा नियंत्रणों और एंडपॉइंट सुरक्षा अनुप्रयोगों द्वारा आमतौर पर नियोजित पहचान तंत्रों को दरकिनार कर दिया। वेरोनिस के एक सुरक्षा शोधकर्ता डोलेव टेलर ने आर्स टेक्नीका को एक बयान में कहा, "एक बार जब हम इस दुर्भावनापूर्ण संकेत के साथ यह लिंक वितरित कर देते हैं, तो उपयोगकर्ता को केवल लिंक पर क्लिक करना होता है और दुर्भावनापूर्ण कार्य तुरंत निष्पादित हो जाता है।" "यहां तक कि अगर उपयोगकर्ता केवल लिंक पर क्लिक करता है और कोपायलट चैट के टैब को तुरंत बंद कर देता है, तब भी शोषण काम करता है।"

यह भेद्यता कोपायलट जैसे बड़े भाषा मॉडल (LLMs) से जुड़े अंतर्निहित जोखिमों को उजागर करती है, जो तेजी से रोजमर्रा के अनुप्रयोगों में एकीकृत हो रहे हैं। LLM विशाल डेटासेट से सीखते हैं और मानव जैसा पाठ उत्पन्न कर सकते हैं, लेकिन उनकी जटिलता उन्हें अप्रत्याशित सुरक्षा खामियों के प्रति संवेदनशील भी बनाती है। यह घटना एआई-संचालित प्लेटफार्मों के भीतर उपयोगकर्ता डेटा की सुरक्षा के लिए मजबूत सुरक्षा उपायों और निरंतर निगरानी के महत्व को रेखांकित करती है।

हमले के तरीके ने इस बात में कमजोरी का फायदा उठाया कि कोपायलट लिंक के भीतर एम्बेडेड निर्देशों को कैसे संसाधित और निष्पादित करता है। एक वैध कोपायलट यूआरएल के भीतर एम्बेडेड एक दुर्भावनापूर्ण संकेत तैयार करके, शोधकर्ता घटनाओं की एक श्रृंखला को ट्रिगर करने में सक्षम थे जिससे डेटा का निष्कर्षण हुआ। इस प्रकार का हमला, जिसे प्रॉम्प्ट इंजेक्शन अटैक के रूप में जाना जाता है, एआई सुरक्षा के क्षेत्र में एक बढ़ती चिंता है। प्रॉम्प्ट इंजेक्शन तब होता है जब एक हमलावर एआई मॉडल में इनपुट में हेरफेर करता है ताकि वह अनपेक्षित कार्यों को करने का कारण बन सके, जैसे कि संवेदनशील जानकारी का खुलासा करना या दुर्भावनापूर्ण कोड निष्पादित करना।

इस भेद्यता के निहितार्थ व्यक्तिगत उपयोगकर्ताओं से परे हैं। उद्यम वातावरण में, जहां कोपायलट का उपयोग संवेदनशील व्यावसायिक डेटा तक पहुंचने और संसाधित करने के लिए किया जाता है, एक सफल हमला महत्वपूर्ण डेटा उल्लंघनों और वित्तीय नुकसान का कारण बन सकता है। यह घटना एआई-संचालित सहायकों की सुरक्षा और गोपनीयता और उनके विकास और तैनाती में अधिक पारदर्शिता और जवाबदेही की आवश्यकता के बारे में व्यापक प्रश्न भी उठाती है।

माइक्रोसॉफ्ट ने भेद्यता को दूर करने के लिए एक पैच जारी किया है, और उपयोगकर्ताओं को सलाह दी जाती है कि वे अपने कोपायलट इंस्टॉलेशन को नवीनतम संस्करण में अपडेट करें। कंपनी अपने एआई प्लेटफार्मों की सुरक्षा में सुधार करने और प्रॉम्प्ट इंजेक्शन हमलों का पता लगाने और रोकने के लिए नए तरीकों को विकसित करने के लिए भी काम कर रही है। जैसे-जैसे एआई तकनीक का विकास जारी है, डेवलपर्स और सुरक्षा शोधकर्ताओं के लिए संभावित कमजोरियों की पहचान करने और उन्हें कम करने के लिए सहयोग करना महत्वपूर्ण है, यह सुनिश्चित करते हुए कि इन शक्तिशाली उपकरणों का उपयोग सुरक्षित और जिम्मेदारी से किया जाए। यह घटना एक अनुस्मारक के रूप में कार्य करती है कि एआई सिस्टम के साथ प्रतीत होने वाली सरल बातचीत भी महत्वपूर्ण सुरक्षा निहितार्थ हो सकती है, और कृत्रिम बुद्धिमत्ता के युग में उपयोगकर्ता डेटा की सुरक्षा में सतर्कता आवश्यक है।