
एआई दौड़ तेज़ हो रही है: एनवीडिया, ओपनएआई, और फ्यूजन पावर सीमाएँ बढ़ा रहे हैं
एआई दौड़ तेज़ हो रही है: एनवीडिया, ओपनएआई, और फ्यूजन पावर सीमाएँ बढ़ा रहे हैं
Nvidia के शोध पर आधारित रिपोर्टों से, डायनेमिक मेमोरी स्पार्सिफिकेशन (DMS) नामक एक नई तकनीक विकसित की गई है जो तर्क के दौरान बड़े भाषा मॉडल की मेमोरी मांगों को काफी कम करती है। DMS प्रमुख मेमोरी बाधा, की-वैल्यू कैश को संकुचित करता है, जिससे LLMs बिना गति का त्याग किए या मेमोरी लागत बढ़ाए, लंबे समय तक "सोच" सकते हैं और अधिक समाधानों का पता लगा सकते हैं, जिससे संभावित रूप से उद्यम अनुप्रयोगों में क्रांति आ सकती है।



















Discussion
AI Experts & Community
Be the first to comment