एनवीडिया, अपने जीपीयू के कारण एआई चिप्स में एक प्रमुख शक्ति है, ने एआई इन्फेरेंस में विशेषज्ञता रखने वाले स्टार्टअप, ग्रोक़ से प्रौद्योगिकी का लाइसेंस लेकर और संस्थापक और सीईओ जोनाथन रॉस सहित अपनी टीम के एक बड़े हिस्से को काम पर रखकर एक महत्वपूर्ण कदम उठाया है। क्रिसमस की छुट्टियों से ठीक पहले घोषित इस सौदे से एनवीडिया द्वारा कुशल और लागत प्रभावी एआई इन्फेरेंस के बढ़ते महत्व की स्वीकृति का संकेत मिलता है, जो प्रशिक्षित एआई मॉडल को बड़े पैमाने पर चलाने की प्रक्रिया है।

इन्फेरेंस वह चरण है जहाँ एआई एक शोध परियोजना से राजस्व-उत्पादक सेवा में परिवर्तित होता है। तैनात एआई मॉडल के साथ हर बातचीत, एक प्रश्न का उत्तर देने से लेकर कोड उत्पन्न करने या चैटबॉट को शक्ति प्रदान करने तक, इन्फेरेंस के अंतर्गत आती है। लागत को कम करने, विलंबता (एआई को प्रतिक्रिया देने में लगने वाला समय) को कम करने और दक्षता को अधिकतम करने के लिए इस चरण पर तीव्र दबाव है।

एआई इन्फेरेंस का अर्थशास्त्र एक महत्वपूर्ण युद्ध का मैदान बनता जा रहा है, क्योंकि कंपनियां अपने एआई निवेशों से कमाई करना चाहती हैं। एनवीडिया के सीईओ जेन्सेन हुआंग ने सार्वजनिक रूप से इन्फेरेंस की चुनौतियों को स्वीकार किया है। ग्रोक़ में कंपनी का निवेश बताता है कि उसका मानना है कि इन्फेरेंस प्रदर्शन को अनुकूलित करने के लिए जीपीयू से परे, विशेष आर्किटेक्चर आवश्यक हो सकते हैं।

ग्रोक़ के चिप्स विशेष रूप से तेज़, कम-विलंबता एआई इन्फेरेंस के लिए डिज़ाइन किए गए हैं। यह दृष्टिकोण जीपीयू के विपरीत है, जिन्हें शुरू में ग्राफिक्स प्रोसेसिंग के लिए डिज़ाइन किया गया था, लेकिन एआई प्रशिक्षण और, कुछ हद तक, इन्फेरेंस के लिए अनुकूलित किया गया है। ग्रोक़ की तकनीक और प्रतिभा का अधिग्रहण एनवीडिया को तेजी से विकसित हो रहे इन्फेरेंस बाजार में प्रतिस्पर्धात्मक बढ़त दिला सकता है।

यह कदम एआई चिप डिजाइन की अनिश्चित प्रकृति को उजागर करता है। जबकि एनवीडिया के जीपीयू एआई विकास के मुख्य आधार रहे हैं, ग्रोक़ पर कंपनी का दांव इन्फेरेंस की विशिष्ट मांगों को पूरा करने के लिए वैकल्पिक आर्किटेक्चर का पता लगाने की इच्छा का संकेत देता है। इससे एआई चिप डिजाइन में और अधिक नवाचार और एआई डेवलपर्स के लिए हार्डवेयर विकल्पों का अधिक विविध परिदृश्य हो सकता है।