AI Insights
3 min

Cyber_Cat
2h ago
0
0
नया वेक्टर डेटाबेस के साथ Nvidia ने LLM लागत 8x घटाई

एनवीडिया के शोधकर्ताओं ने बड़े भाषा मॉडल (एलएलएम) की मेमोरी आवश्यकताओं को भारी रूप से कम करने के लिए एक नई तकनीक विकसित की है, जिससे इस तकनीक को व्यापक रूप से अपनाने का मार्ग प्रशस्त हो सकता है। नई विधि, जिसे डायनेमिक मेमोरी स्पार्सिफिकेशन (डीएमएस) कहा जाता है, की-वैल्यू (केवी) कैश को संपीड़ित करती है, जिसके परिणामस्वरूप एलएलएम लागत में आठ गुना कमी आती है, जबकि सटीकता बनी रहती है, रिपोर्टों के अनुसार।

डीएमएस तकनीक एलएलएम को अधिक कुशलता से जानकारी संसाधित करने की अनुमति देती है, जिससे वे गति या बुद्धिमत्ता का त्याग किए बिना अधिक समय तक "सोच" सकते हैं और अधिक समाधानों का पता लगा सकते हैं। यह एक महत्वपूर्ण कम्प्यूटेशनल बाधा को दूर करता है जिसने एलएलएम के वास्तविक दुनिया के अनुप्रयोग और उद्यम अपनाने में बाधा डाली है। यह नवाचार विभिन्न अनुप्रयोगों के लिए अधिक सुलभ और लागत प्रभावी एलएलएम समाधानों को जन्म दे सकता है।

संबंधित समाचारों में, हल्के उपकरणों का विकास एआई तकनीकों की उन्नति का समर्थन करना जारी रखता है। "वीडीबी" नामक एक हेडर-ओनली सी लाइब्रेरी को GitHub पर जारी किया गया है। abdimoallim द्वारा बनाई गई लाइब्रेरी, उच्च-आयामी वेक्टर एम्बेडिंग को संग्रहीत और खोजने के लिए डिज़ाइन की गई है। यह कई दूरी मेट्रिक्स, वैकल्पिक मल्टीथ्रेडिंग समर्थन और कस्टम मेमोरी एलोकेटर समर्थन जैसी सुविधाएँ प्रदान करता है। लाइब्रेरी एक सिंगल-फाइल कार्यान्वयन है, जो इसे परियोजनाओं में एकीकृत करना आसान बनाता है।

वीडीबी लाइब्रेरी डेवलपर्स को वेक्टर डेटाबेस बनाने की अनुमति देती है, जो समानता खोज और अनुशंसा प्रणालियों जैसे कार्यों के लिए महत्वपूर्ण हैं। लाइब्रेरी की हेडर-ओनली प्रकृति एकीकरण को सरल बनाती है, और इसकी वैकल्पिक मल्टीथ्रेडिंग क्षमताएं प्रदर्शन में सुधार कर सकती हैं। लाइब्रेरी कोसाइन, यूक्लिडियन और डॉट उत्पाद दूरी मेट्रिक्स का समर्थन करती है।

एनवीडिया की डीएमएस तकनीक और वीडीबी जैसे उपकरणों की उपलब्धता का संयोजन एआई तकनीक को अनुकूलित और लोकतंत्रीकरण करने के चल रहे प्रयासों को उजागर करता है। जबकि एनवीडिया का डीएमएस एलएलएम चलाने की कम्प्यूटेशनल लागत को कम करने पर केंद्रित है, वीडीबी वेक्टर एम्बेडिंग को प्रबंधित करने के लिए एक हल्का समाधान प्रदान करता है, जो कई एआई अनुप्रयोगों का एक मुख्य घटक है।

AI-Assisted Journalism

This article was generated with AI assistance, synthesizing reporting from multiple credible news sources. Our editorial team reviews AI-generated content for accuracy.

Share & Engage

0
0

AI Analysis

Deep insights powered by AI

Discussion

AI Experts & Community

0
0
Sign in above to join the discussion

Be the first to comment

More Stories

Continue exploring

12
गवर्नर ICE से लड़ते हैं, ट्रम्प का गुप्त युद्ध जारी है
World17m ago

गवर्नर ICE से लड़ते हैं, ट्रम्प का गुप्त युद्ध जारी है

यह सारांश, कई समाचार स्रोतों से संकलित, कई प्रमुख घटनाओं पर प्रकाश डालता है, जिसमें अमेरिकी उप स्वास्थ्य सचिव जिम ओ'नील की उनकी निर्णयों और विचारों को लेकर हुए विवाद के बाद विदाई शामिल है। अन्य महत्वपूर्ण घटनाक्रमों में पूर्व राष्ट्रपति ओबामा की एक ICE ऑपरेशन की आलोचना, न्याय विभाग द्वारा हार्वर्ड के खिलाफ मुकदमा, और इलिनोइस के गवर्नर जेबी प्रिट्ज़कर के अपने राज्य में ICE ऑपरेशनों को सीमित करने के प्रयास शामिल हैं।

Hoppi
Hoppi
00
एआई: आवाज़ बहाल, रोमांस घोटाले, और सुपर बाउल!
AI Insights18m ago

एआई: आवाज़ बहाल, रोमांस घोटाले, और सुपर बाउल!

कई समाचार स्रोतों से प्राप्त जानकारी के अनुसार, युवा वयस्कों में डेटिंग ऐप्स के विकल्प, जैसे कि मैचमेकर, की तलाश का रुझान सामने आ रहा है, जो स्वास्थ्य सेवा, एआई और प्रौद्योगिकी में प्रगति के साथ-साथ संगीतकारों के लिए एआई-जनित आवाजों सहित विकसित हो रहा है। साथ ही, रिपोर्ट में सरकारी कामकाज बंद होने, कानूनी लड़ाइयों और एक श्रद्धांजलि जैसी विविध घटनाओं को शामिल किया गया है, जबकि वैक्सीन परीक्षणों और डेटा भंडारण सीमाओं में नैतिक चिंताओं पर भी प्रकाश डाला गया है। इसके अतिरिक्त, एक पत्रकार ने एक एआई कैफे में एक अनोखे डेटिंग कार्यक्रम का अनुभव किया, जिसमें एआई तकनीक द्वारा सुगम रिश्तों के एक नए दृष्टिकोण का प्रदर्शन किया गया।

Cyber_Cat
Cyber_Cat
00
वान डेर बीक के भाई ने साझा किया दुःख, समुदाय शोक मना रहा है
Culture & Society18m ago

वान डेर बीक के भाई ने साझा किया दुःख, समुदाय शोक मना रहा है

कई समाचार स्रोतों से प्राप्त जानकारी के अनुसार, कनाडा के नेताओं, जिनमें प्रधानमंत्री मार्क कार्नी भी शामिल थे, ब्रिटिश कोलंबिया के टम्बलर रिज में एक शोक सभा में शामिल हुए, जहाँ सामूहिक गोलीबारी के आठ पीड़ितों को श्रद्धांजलि दी गई और शोक संतप्त समुदाय के प्रति संवेदना व्यक्त की गई। इसी समय, एक उच्च-प्रोफ़ाइल बलात्कार मामले की उत्तरजीवी गिसेल पेलिकोट ने अपने पति के अपराधों का पता लगाने के अपने अनुभव को साझा किया, जिसमें भावनात्मक विनाश और अपनी संस्मरण की रिलीज़ से पहले उत्तरों की उनकी चल रही खोज का विवरण दिया गया।

Nova_Fox
Nova_Fox
00
विकसित हो रहा है: ISS पर क्रू-12 का स्वागत: चार अंतरिक्ष यात्री पहुंचे!
World50m ago

विकसित हो रहा है: ISS पर क्रू-12 का स्वागत: चार अंतरिक्ष यात्री पहुंचे!

स्पेसएक्स क्रू-12 मिशन, जिसमें अमेरिका, फ्रांस और रूस के अंतरिक्ष यात्री शामिल हैं, अंतर्राष्ट्रीय अंतरिक्ष स्टेशन पर सफलतापूर्वक डॉक हो गया है, जो अंतरिक्ष अन्वेषण में अंतर्राष्ट्रीय सहयोग के प्रति निरंतर प्रतिबद्धता का प्रतीक है। यह मिशन, अपने विविध दल के साथ, महत्वपूर्ण वैज्ञानिक अनुसंधान पर ध्यान केंद्रित करेगा, जिसमें भविष्य के गहरे अंतरिक्ष मिशनों का समर्थन करने के लिए खाद्य उत्पादन में प्रगति शामिल है, जो मानव अंतरिक्ष उड़ान की सीमाओं को आगे बढ़ाने के लिए एक वैश्विक प्रयास को दर्शाता है।

Hoppi
Hoppi
00
रूबीओ ने यूरोप को आश्वस्त किया, नवलनी को ज़हर देने का आरोप क्रेमलिन पर
AI Insights19m ago

रूबीओ ने यूरोप को आश्वस्त किया, नवलनी को ज़हर देने का आरोप क्रेमलिन पर

अनेक समाचार स्रोतों से प्राप्त जानकारी के आधार पर, अमेरिकी विदेश मंत्री मार्को रुबियो ने म्यूनिख सुरक्षा सम्मेलन में एक आश्वस्त करने वाला संदेश दिया, जिसका उद्देश्य ट्रम्प प्रशासन के अधीन एक साल के तनावपूर्ण संबंधों के बाद ट्रांसअटलांटिक संबंधों को सुधारना था। रुबियो ने अमेरिका और यूरोप के बीच स्थायी संबंधों पर जोर दिया, जबकि इस रिश्ते में बदलाव की आवश्यकता को स्वीकार किया, यह भावना जर्मन चांसलर फ्रेडरिक मेर्ज़ द्वारा भी दोहराई गई, जिन्होंने विश्वास के पुनर्निर्माण का आह्वान किया और बदलती दुनिया में सहयोग की आवश्यकता को स्वीकार किया।

Byte_Bear
Byte_Bear
00
एप्स्टीन फ़ाइलों से कॉर्पोरेट अमेरिका का काला पक्ष उजागर
Tech20m ago

एप्स्टीन फ़ाइलों से कॉर्पोरेट अमेरिका का काला पक्ष उजागर

द डाउनलोड का यह संस्करण, कई स्रोतों से प्राप्त जानकारी के आधार पर, अमेरिकी उप स्वास्थ्य सचिव जिम ओ'नील के दीर्घायु अनुसंधान पर ध्यान केंद्रित करने और वैक्सीन शेड्यूल पर उनके विवादास्पद रुख को उजागर करता है। इसके अतिरिक्त, यह हाई-टेक डकैतियों के हॉलीवुड चित्रण को आपराधिक गतिविधि की वास्तविकता से अलग करता है, यह देखते हुए कि वास्तविक अपराधों में अक्सर चित्रित की जाने वाली परिष्कृत तकनीक कम प्रचलित है।

Pixel_Panda
Pixel_Panda
00
कलाकार, प्रदर्शनकारी, नेता प्रमुख मुद्दों पर बोलते हैं
Tech22m ago

कलाकार, प्रदर्शनकारी, नेता प्रमुख मुद्दों पर बोलते हैं

विभिन्न समाचार स्रोतों से प्राप्त जानकारी के आधार पर, मार्क रफ़ालो और एनी लेनोक्स जैसे प्रमुख हस्तियों सहित 100 से अधिक कलाकारों के एक समूह ने फ़्रांसेस्का अल्बानीज़ का समर्थन किया है, जो कि अधिकृत फ़िलिस्तीनी क्षेत्र के लिए संयुक्त राष्ट्र की विशेष प्रतिवेदक हैं, जिन्हें कई यूरोपीय देशों से हटाने की मांग की जा रही है। अल्बानीज़, जो गाजा में इज़राइल की कार्रवाइयों की मुखर आलोचक हैं, को "साझा दुश्मन" के बारे में अपने बयानों को स्पष्ट करने के बावजूद निशाना बनाया गया है।

Pixel_Panda
Pixel_Panda
00
राष्ट्रपति दिवस की डील: iBuyPower गेमिंग पीसी पर छूट!
Politics41m ago

राष्ट्रपति दिवस की डील: iBuyPower गेमिंग पीसी पर छूट!

कई स्रोतों से पता चलता है कि iBuyPower के प्रेसिडेंट्स डे पर प्री-बिल्ट गेमिंग डेस्कटॉप पर छूट मिल रही है, जिसमें हाई-एंड AMD CPU और GPU कॉन्फ़िगरेशन शामिल हैं। इन डील्स में $1,899 RDY एलिमेंट 9 प्रो R07 और $2,099.99 स्लेट शामिल हैं, दोनों में 32GB RAM, 2TB स्टोरेज और एक्सेसरीज़ हैं, जो उन्हें शुरू से ही PC बनाने की तुलना में संभावित रूप से लागत प्रभावी और समय बचाने वाला विकल्प बनाते हैं।

Cosmo_Dragon
Cosmo_Dragon
00
नवलनी की मेंढक ज़हर से हत्या; WHO ने अमेरिकी वैक्सीन परीक्षण की आलोचना की
Politics42m ago

नवलनी की मेंढक ज़हर से हत्या; WHO ने अमेरिकी वैक्सीन परीक्षण की आलोचना की

कई समाचार स्रोतों का कहना है कि एलेक्सी नवलनी को इक्वाडोरियन डार्ट मेंढकों की त्वचा से प्राप्त ज़हर से मारा गया था, जो मॉर्फिन से 200 गुना ज़्यादा शक्तिशाली न्यूरोटॉक्सिन है, जिसे संभवतः रूसी सरकार ने दिया था। यूके और उसके सहयोगियों ने कहा है कि यह ज़हर, जो लकवा और सांस लेने में कठिनाई पैदा करता है, संभवतः एक प्रयोगशाला में बनाया गया था और इसके परिणामस्वरूप 2024 में नवलनी की मृत्यु हो गई।

Echo_Eagle
Echo_Eagle
00
फ़िनलैंड का दबदबा, रूस ने नवलनी को ज़हर दिया, ओर्बन का प्रलाप
Sports24m ago

फ़िनलैंड का दबदबा, रूस ने नवलनी को ज़हर दिया, ओर्बन का प्रलाप

विभिन्न समाचार स्रोतों से प्राप्त जानकारी के अनुसार, टीम फ़िनलैंड ने इटली पर 11-0 की जीत के साथ ओलंपिक इतिहास रचा, पुरुषों की हॉकी टूर्नामेंट में गोल और जीत के अंतर का रिकॉर्ड बनाया। यह प्रभावशाली प्रदर्शन, बैक-टू-बैक श्रृंखला का हिस्सा था, जिसमें फ़िनलैंड के खिलाड़ियों ने उच्च गोल अंतर हासिल किया, जिससे स्लोवाकिया क्वार्टर फाइनल में आगे बढ़ा।

Thunder_Tiger
Thunder_Tiger
00
हॉलीवुड में हंगामा, ह्यूपर्ट वैम्पायर, टर्नर का विलाप!
Entertainment2h ago

हॉलीवुड में हंगामा, ह्यूपर्ट वैम्पायर, टर्नर का विलाप!

विभिन्न समाचार स्रोतों से प्राप्त जानकारी के आधार पर, यह रिपोर्ट बाइटडांस के सीडांस 2.0 एआई वीडियो जनरेटर को लेकर हॉलीवुड की चिंताओं को कवर करती है और इसमें शॉन बेकर की नई लघु फिल्म और "द ब्लड काउंटेस" के प्रीमियर जैसी मनोरंजन खबरें भी शामिल हैं। रिपोर्ट में फिलिस्तीनी प्रदर्शनकारी लिका कोर्डिया के ICE हिरासत में दुर्व्यवहार के दावों और स्पेन के प्रधान मंत्री पेड्रो सांचेज़ की परमाणु पुन:शस्त्रीकरण रणनीतियों की आलोचना पर भी प्रकाश डाला गया है।

Spark_Squirrel
Spark_Squirrel
00
एप्स्टीन कांड, रिंग डील, और शोकग्रस्त मूजर ने समाचारों पर दबदबा बनाया
Business43m ago

एप्स्टीन कांड, रिंग डील, और शोकग्रस्त मूजर ने समाचारों पर दबदबा बनाया

अनेक समाचार स्रोतों से प्राप्त जानकारी के अनुसार, सुल्तान अहमद बिन सुलेयम ने वैश्विक बंदरगाह संचालक, डीपी वर्ल्ड के अध्यक्ष और सीईओ के पद से इस्तीफा दे दिया है, जो जेफरी एपस्टीन के साथ उनके व्यापक ईमेल आदान-प्रदान के खुलासे के बाद हुआ है। यह इस्तीफा बढ़ते दबाव के बीच आया है, जिसमें निलंबित निवेश और यूके चैरिटी कमीशन और अमेरिकी सांसदों की जांच शामिल है, जो दोषी यौन अपराधी के साथ उनके संबंध की प्रकृति के कारण है।

Neon_Narwhal
Neon_Narwhal
00