एआई एजेंट्स ने सिक्योरिटी हैक की, गैलेक्सी स्मूथ हुई, और आरएजी सिस्टम फेल!

यहां दिए गए स्रोतों से जानकारी को संश्लेषित करने वाला एक समाचार लेख है:

हालिया रिपोर्टों में AI प्रगति और सुरक्षा चिंताओं पर प्रकाश डाला गया

हालिया रिपोर्टों ने कृत्रिम बुद्धिमत्ता में हुई प्रगति पर प्रकाश डाला है, जिसमें कोडिंग एजेंट से लेकर जटिल दस्तावेजों को संसाधित करने में आने वाली चुनौतियां शामिल हैं, साथ ही महत्वपूर्ण सुरक्षा चिंताओं को भी उठाया गया है। कई स्रोतों के अनुसार, AI उपकरणों, विशेष रूप से एजेंटिक AI के तेजी से विकास और तैनाती ने मौजूदा सुरक्षा मॉडलों में कमजोरियों को उजागर किया है।

एक ध्यान केंद्रित करने वाला क्षेत्र रिट्रीवल-ऑगमेंटेड जनरेशन (RAG) सिस्टम की प्रभावशीलता है। वेंचरबीट के अनुसार, कई उद्यमों ने PDF को अनुक्रमित करके और उन्हें बड़े भाषा मॉडल (LLM) से जोड़कर कॉर्पोरेट ज्ञान का लोकतंत्रीकरण करने के वादे के साथ RAG सिस्टम तैनात किए हैं। हालांकि, ये सिस्टम अक्सर कम पड़ जाते हैं, खासकर भारी इंजीनियरिंग पर निर्भर उद्योगों में। वेंचरबीट ने बताया, "विफलता LLM में नहीं है। विफलता प्रीप्रोसेसिंग में है," यह देखते हुए कि मानक RAG पाइपलाइन दस्तावेजों को पाठ की सपाट स्ट्रिंग के रूप में मानती है, निश्चित आकार के चंकिंग का उपयोग करती है जो तालिकाओं को काटकर और छवियों से कैप्शन को अलग करके तकनीकी मैनुअल के तर्क को नष्ट कर सकती है।

इस बीच, एजेंटिक AI के उदय ने नए सुरक्षा जोखिमों को पेश किया है। वेंचरबीट ने बताया कि ओपन-सोर्स AI सहायक, ओपनक्लॉ ने महत्वपूर्ण कर्षण प्राप्त किया, 180,000 से अधिक GitHub सितारे जमा किए और एक ही सप्ताह में 2 मिलियन आगंतुकों को आकर्षित किया, इसके निर्माता पीटर स्टीनबर्गर के अनुसार। हालांकि, सुरक्षा शोधकर्ताओं ने 1,800 से अधिक उजागर उदाहरणों की खोज की, जिनमें API कुंजी, चैट इतिहास और खाता क्रेडेंशियल लीक हो रहे थे। वेंचरबीट ने उल्लेख किया कि यह जमीनी स्तर का एजेंटिक AI आंदोलन एक महत्वपूर्ण, अप्रबंधित हमला सतह का प्रतिनिधित्व करता है जिसे कई सुरक्षा उपकरण पता लगाने में असमर्थ हैं। रिपोर्ट में जोर दिया गया कि पारंपरिक सुरक्षा परिधि अक्सर एजेंटिक AI खतरों को देखने में विफल रहती है, खासकर जब एजेंट BYOD हार्डवेयर पर चलते हैं।

कोडिंग एजेंटों का विकास भी प्रगति कर रहा है, डेवलपर्स न्यूनतम और राय आधारित डिजाइनों की खोज कर रहे हैं। एक डेवलपर ने ऐसे एजेंट के निर्माण के अपने अनुभव का विवरण दिया, जिसमें कई मॉडलों, संरचित स्प्लिट टूल परिणामों और एक न्यूनतम सिस्टम प्रॉम्प्ट के उपयोग पर प्रकाश डाला गया। डेवलपर ने "कोई अंतर्निहित टू-डोस नहीं," "कोई योजना मोड नहीं," और "कोई MCP समर्थन नहीं" जैसे डिज़ाइन विकल्पों पर ध्यान दिया, जो सादगी और प्रत्यक्षता पर ध्यान केंद्रित करते हैं।