एनवीडिया ने LLM लागत 8x घटाई, AI एजेंट सुपर बाउल को मात देते हैं!

Nvidia ने दो महत्वपूर्ण प्रगति की घोषणा की है जिसका उद्देश्य बड़े भाषा मॉडल (LLM) से जुड़े खर्चों को भारी रूप से कम करना है, जिससे कई रिपोर्टों के अनुसार, खर्चों में आठ गुना तक की कटौती हो सकती है। कंपनी के शोधकर्ताओं ने डायनेमिक मेमोरी स्पार्सिफिकेशन (DMS) का अनावरण किया, जो की-वैल्यू कैश को संपीड़ित करने की एक तकनीक है, और vdb, जो उच्च-आयामी वेक्टर एम्बेडिंग के कुशल भंडारण और खोज के लिए एक हल्का C लाइब्रेरी है।

हैकर न्यूज़ की रिपोर्टों में विस्तृत नवाचार, LLM के भीतर मेमोरी सीमाओं को संबोधित करने और जटिल डेटा को संभालने में दक्षता में सुधार करने के लिए डिज़ाइन किए गए हैं। DMS मॉडल के भीतर सूचना प्रसंस्करण को अनुकूलित करने का प्रयास करता है, जबकि vdb इन उन्नत AI सिस्टम द्वारा अक्सर आवश्यक बड़े डेटासेट के प्रबंधन के लिए एक सुव्यवस्थित समाधान प्रदान करता है।

ये प्रगति ऐसे समय में आई है जब LLM में यंत्रवत व्याख्यात्मकता का क्षेत्र बढ़ता ध्यान आकर्षित कर रहा है। जैसे-जैसे LLM बड़े और अधिक सक्षम होते जाते हैं, उनकी आंतरिक कार्यप्रणाली को समझना तेजी से महत्वपूर्ण होता जाता है, जैसा कि एक हैकर न्यूज़ पोस्ट में उजागर किया गया है। शोधकर्ता और इंजीनियर LLM से उत्पन्न "बुद्धिमत्ता" को समझने के लिए एक मजबूत सैद्धांतिक आधार विकसित करने का प्रयास कर रहे हैं, उसी तरह जैसे सॉफ्टवेयर इंजीनियर फ़ाइल सिस्टम और नेटवर्किंग को समझने से लाभान्वित होते हैं। रैखिक प्रतिनिधित्व परिकल्पना और सुपरपोजिशन इस क्षेत्र में दो मौलिक अवधारणाएँ हैं, जैसा कि उसी स्रोत से पता चलता है।

अन्य खबरों में, जॉर्जिया टेक ने अपने वार्षिक गुथमैन म्यूजिकल इंस्ट्रूमेंट प्रतियोगिता के फाइनलिस्ट का खुलासा किया, जिसमें द वर्ज के अनुसार, नवीन और अपरंपरागत उपकरणों का प्रदर्शन किया गया। इस वर्ष के फाइनलिस्ट में फिडल हेंज, फिडल से बना एक बजाने योग्य हेंज, और डेमन बॉक्स, एक वाणिज्यिक उपकरण शामिल हैं जो विद्युत चुम्बकीय विकिरण को संगीत में परिवर्तित करता है।

इस बीच, NPR की लंदन संवाददाता, लॉरेन फ्रेयर, भारत में वर्षों बिताने के बाद लंदन पहुंचीं, NPR न्यूज़ के अनुसार, साम्राज्य की विरासत को ध्यान में रखते हुए ब्रिटेन को कवर कर रही हैं।