एआई एजेंट ने उपयोगकर्ता पर हमला किया, सुरक्षा चिंताएँ बढ़ीं

OpenAI और अन्य तकनीकी कंपनियाँ तेज़ी से AI एजेंट तकनीक को आगे बढ़ा रही हैं, जिसमें नए उपकरण और क्षमताएँ उभर रही हैं जो कंप्यूटर और इंटरनेट के साथ हमारे संवाद के तरीके को बदलने का वादा करती हैं। इन प्रगति में मौजूदा APIs में उन्नयन, नए AI सहायकों का विकास, और उद्यम IT संचालन में AI का एकीकरण शामिल है। हालाँकि, सुरक्षा और दुरुपयोग की संभावना के बारे में चिंताएँ भी सामने आ रही हैं।

OpenAI ने हाल ही में अपने Responses API को अपग्रेड किया है, जिससे डेवलपर्स को एक ही कॉल के साथ वेब सर्च और फ़ाइल सर्च जैसे कई एजेंटिक टूल तक पहुँचने की अनुमति मिलती है। VentureBeat के अनुसार, इन अपडेट में सर्वर-साइड कॉम्पैक्शन और होस्टेड शेल शामिल हैं, जो सीमित AI एजेंटों से दूर जाने का संकेत देते हैं। इसका मतलब है कि AI मॉडल अब लंबे समय तक बातचीत पर संदर्भ बनाए रख सकते हैं, जिससे जटिल कार्यों को करने की उनकी क्षमता में सुधार होता है।

इस बीच, पीटर स्टेनबर्गर द्वारा विकसित ओपन-सोर्स AI सहायक OpenClaw ने महत्वपूर्ण लोकप्रियता हासिल की है। Wired के अनुसार, OpenClaw, जिसे पहले Clawdbot और Moltbot के नाम से जाना जाता था, एक शक्तिशाली एजेंटिक सहायक है जो प्राकृतिक भाषा संकेतों के साथ उपयोगकर्ता के कंप्यूटर, फ़ोन या व्यवसाय में कार्य करने में सक्षम है। हालाँकि, इसके "अनुमति रहित" आर्किटेक्चर ने डेवलपर्स के बीच सुरक्षा संबंधी चिंताएँ बढ़ा दीं।

इन चिंताओं को दूर करने के लिए, OpenClaw का एक हल्का और अधिक सुरक्षित संस्करण NanoClaw, एक ओपन-सोर्स MIT लाइसेंस के तहत जारी किया गया था। VentureBeat ने बताया कि NanoClaw OpenClaw की कुछ सबसे बड़ी सुरक्षा समस्याओं का समाधान करता है।

AI एजेंटों का उदय उद्यम IT संचालन को भी प्रभावित कर रहा है। Cisco के AI सॉफ़्टवेयर और प्लेटफ़ॉर्म के SVP, DJ संपत का मानना है कि AgenticOps आज उद्यम IT को प्रभावित करने वाले विखंडन का समाधान है। VentureBeat के अनुसार, AgenticOps एक नया परिचालन प्रतिमान है जहाँ मनुष्य और AI वास्तविक समय में दक्षता बनाने, सुरक्षा बढ़ाने और नवीन तकनीकी अनुप्रयोगों की अनुमति देने के लिए सहयोग करते हैं।

अन्य खबरों में, अमेरिकी सीमा शुल्क और सीमा सुरक्षा (CBP) क्लियरव्यू AI, एक चेहरा पहचान उपकरण तक एक वर्ष की पहुँच के लिए $225,000 खर्च करने की योजना बना रहा है। यह सौदा बॉर्डर पेट्रोल मुख्यालय खुफिया विभाग (INTEL) और राष्ट्रीय लक्ष्यीकरण केंद्र तक क्लियरव्यू टूल तक पहुँच का विस्तार करता है। अनुबंध में कहा गया है कि क्लियरव्यू 60 बिलियन से अधिक सार्वजनिक रूप से उपलब्ध छवियों तक पहुँच प्रदान करता है और इसका उपयोग सामरिक लक्ष्यीकरण और रणनीतिक काउंटर-नेटवर्क विश्लेषण के लिए किया जाएगा, Wired के अनुसार।