AI पावर संकट और कंप्यूट बदलाव टेक परिदृश्य पर हावी
तकनीकी दुनिया कई चुनौतियों से जूझ रही है, जिसमें बढ़ती AI पावर संकट से लेकर कंप्यूट प्रतिमानों का विकास शामिल है, कई समाचार स्रोतों के अनुसार। टेकक्रंच की रिपोर्ट के अनुसार, पीक XV पार्टनर्स, एक भारतीय स्टार्टअप, C2i सेमीकंडक्टर्स में AI डेटा केंद्रों में बढ़ती बिजली बाधाओं से निपटने के लिए $15 मिलियन का निवेश कर रहा है। साथ ही, उद्योग कंप्यूटिंग पावर में बदलाव देख रहा है, जो CPUs से GPUs की ओर बढ़ रहा है और संभावित रूप से मिक्सचर ऑफ एक्सपर्ट्स (MoE) तकनीकों जैसे नए प्रतिमानों की ओर बढ़ रहा है, जैसा कि वेंचरबीट द्वारा उजागर किया गया है।
C2i सेमीकंडक्टर्स AI इन्फ्रास्ट्रक्चर की ऊर्जा मांगों को पूरा करने के लिए कुशल पावर रूपांतरण समाधान विकसित कर रहा है। टेकक्रंच के अनुसार, उनकी सिस्टम-स्तरीय तकनीक का लक्ष्य वोल्टेज स्टेप-डाउन प्रक्रियाओं के दौरान ऊर्जा नुकसान को कम करना है, जो डेटा सेंटर की बिजली मांग में अनुमानित वृद्धि को देखते हुए एक महत्वपूर्ण कारक है। यह सीरीज ए फंडिंग C2i को अपने प्लग-एंड-प्ले समाधानों को स्केल करने में सक्षम बनाएगी।
कंप्यूटिंग पावर का विकास तकनीकी उद्योग में एक आवर्ती विषय रहा है। वेंचरबीट, विभिन्न स्रोतों से जानकारी लेते हुए, तकनीकी प्रगति की चक्रीय प्रकृति पर ध्यान देता है, जिसमें चिकनी, घातीय वृद्धि के भ्रम के लिए ग्रेट पिरामिड का उपयोग एक रूपक के रूप में किया गया है। CPUs से GPUs में बदलाव इस पैटर्न का एक प्रमुख उदाहरण है, और उद्योग अब डीपसीक और Nvidia की प्रगति के साथ देखे गए LLMs जैसे नए दृष्टिकोणों की खोज कर रहा है, वेंचरबीट के अनुसार।
अन्य खबरों में, लार्ज लैंग्वेज मॉडल (LLMs) का विकास जारी है। फोकस का एक क्षेत्र थ्रूपुट के लिए अनुकूलन है, जैसा कि हैकर न्यूज पर एक ब्लॉग पोस्ट में उजागर किया गया है। पोस्ट कंटीन्यूअस बैचिंग पर चर्चा करती है, जो अटेंशन मैकेनिज्म और KV कैशिंग से प्राप्त एक तकनीक है, जिसका उद्देश्य LLMs द्वारा प्रतिक्रियाओं को उत्पन्न करने की गति में सुधार करना है। पोस्ट के अनुसार, यह विशेष रूप से प्रासंगिक है, यह देखते हुए कि LLM प्रतिक्रिया का पहला शब्द प्रकट होने में कितना समय लगता है।
जबकि टेक सेक्टर इन चुनौतियों से जूझ रहा है, अन्य घटनाक्रम भी सामने आ रहे हैं। इलिनोइस के गवर्नर जेबी प्रित्ज़कर संघीय आव्रजन नीतियों का सक्रिय रूप से विरोध कर रहे हैं, राज्य में ICE संचालन को सीमित करने के लिए कानून पर हस्ताक्षर कर रहे हैं, वोक्स के अनुसार। इसमें इलिनोइस जवाबदेही आयोग का निर्माण और संघीय सरकार पर मुकदमा करना शामिल है।
Discussion
AI Experts & Community
Be the first to comment