एआई दस्तावेज़ प्रबंधन: सफलताएँ और सुरक्षा जोखिम उभरे

यहाँ प्रदान किए गए स्रोतों से जानकारी का संश्लेषण करने वाला एक समाचार लेख है:

एजेंटिक एआई सुरक्षा जोखिम उभरे, आरएजी सिस्टम की सीमाएँ सामने आईं

हालिया रिपोर्टों के अनुसार, रिट्रीवल-ऑगमेंटेड जनरेशन (आरएजी) सिस्टम को तेजी से अपनाने से जटिल दस्तावेजों को संभालने में सुरक्षा कमजोरियों और सीमाओं दोनों का पता चल रहा है। जबकि आरएजी दस्तावेजों को अनुक्रमित करके और बड़े भाषा मॉडल (एलएलएम) से जुड़कर कॉर्पोरेट ज्ञान का लोकतंत्रीकरण करने का वादा करता है, सुरक्षा शोधकर्ताओं ने एजेंटिक एआई से जुड़े महत्वपूर्ण जोखिमों का पता लगाया है, और डेवलपर्स को पता चल रहा है कि मानक आरएजी पाइपलाइन परिष्कृत दस्तावेजों के साथ संघर्ष करती हैं।

ओपनक्लॉ, एक ओपन-सोर्स एआई सहायक, जिसे पहले क्लॉडीबॉट और मोल्टबॉट के नाम से जाना जाता था, अपने निर्माता पीटर स्टीनबर्गर के अनुसार, 180,000 GitHub सितारों तक पहुंच गया और एक ही सप्ताह में 2 मिलियन आगंतुकों को आकर्षित किया। हालाँकि, इस लोकप्रियता ने सुरक्षा खामियों को उजागर किया है। सुरक्षा शोधकर्ताओं ने एपीआई कुंजी, चैट इतिहास और खाता क्रेडेंशियल्स लीक करने वाले 1,800 से अधिक उजागर उदाहरण पाए। वेंचरबीट के अनुसार, यह इस बात पर प्रकाश डालता है कि कैसे जमीनी स्तर का एजेंटिक एआई आंदोलन अप्रबंधित हमले की सतहें बना सकता है जिन्हें पारंपरिक सुरक्षा उपकरण अक्सर याद करते हैं। जब एजेंट ब्रिंग योर ओन डिवाइस (बीवाईओडी) हार्डवेयर पर काम करते हैं, तो उद्यम सुरक्षा स्टैक संभावित खतरों के प्रति अंधे हो सकते हैं।

सुरक्षा चिंताओं से परे, आरएजी सिस्टम की प्रभावशीलता पर सवाल उठाया जा रहा है, खासकर जटिल प्रलेखन पर निर्भर उद्योगों में। वेंचरबीट की एक रिपोर्ट के अनुसार, मानक आरएजी पाइपलाइन अक्सर दस्तावेजों को पाठ की सपाट स्ट्रिंग के रूप में मानते हैं, निश्चित आकार के चंकिंग विधियों का उपयोग करते हैं जो तकनीकी मैनुअल के तर्क को बाधित कर सकते हैं। यह दृष्टिकोण तालिकाओं को काट सकता है, छवियों से कैप्शन को अलग कर सकता है और पृष्ठ के दृश्य पदानुक्रम को अनदेखा कर सकता है, जिससे इंजीनियरों द्वारा विशिष्ट प्रश्न पूछने पर गलत परिणाम मिल सकते हैं। वेंचरबीट ने बताया, "विफलता एलएलएम में नहीं है। विफलता प्रीप्रोसेसिंग में है।"

मानक आरएजी की सीमाओं को दूर करने के लिए, पेजइंडेक्स नामक एक नया ओपन-सोर्स ढांचा उभरा है। वेंचरबीट के अनुसार, पेजइंडेक्स पारंपरिक "चंक-एंड-एम्बेड" विधि को छोड़ देता है और दस्तावेज़ पुनर्प्राप्ति को खोज समस्या के बजाय नेविगेशन समस्या के रूप में मानता है। इस ढांचे ने उन दस्तावेजों पर 98.7% सटीकता दर हासिल की जहां वेक्टर खोज आमतौर पर विफल हो जाती है। जैसे-जैसे उद्यम वित्तीय विवरणों के ऑडिट और कानूनी अनुबंधों के विश्लेषण जैसे उच्च-दांव वाले वर्कफ़्लो में आरएजी को एकीकृत करने का प्रयास करते हैं, वे सटीकता बाधाओं का सामना कर रहे हैं जिन्हें केवल चंक अनुकूलन द्वारा दूर नहीं किया जा सकता है।