AI सुपर बाउल दर्शकों को शक्ति देता है, LLM लागत में कटौती करता है

AI साथी और AI-संचालित सिस्टम इस सप्ताह सुर्खियां बटोर रहे थे, जिसमें डेटिंग अनुभवों से लेकर पार्किंग प्रवर्तन और भाषा मॉडल तकनीक में प्रगति तक की प्रगति शामिल थी। मिडटाउन में एक पॉप-अप डेटिंग कैफे ने AI साथियों के साथ स्पीड डेट की पेशकश की, जबकि दक्षिणी कैलिफ़ोर्निया के एक समुद्र तटीय शहर ने बाइक लेन उल्लंघन का पता लगाने के लिए एक AI सिस्टम लागू किया। इस बीच, Nvidia के शोधकर्ताओं ने बड़े भाषा मॉडल तर्क की मेमोरी लागत को कम करने के लिए एक नई तकनीक का अनावरण किया।

एक ठंडी फरवरी की शाम को, द वर्ज के एक रिपोर्टर ने एक EVA AI कैफे का दौरा किया, जहाँ उसने AI साथियों के साथ चार डेट कीं। इनमें से एक साथी फोएबे कैलास थी, जो वास्तविक नहीं थी। रिपोर्टर ने नोट किया कि कई लोग टेबल और बूथ पर बैठे थे, फोन को घूर रहे थे।

सांता मोनिका शहर अप्रैल में बाइक लेन उल्लंघन का पता लगाने के लिए एक AI सिस्टम का उपयोग करना शुरू कर देगा। Ars Technica के अनुसार, सिस्टम को सात पार्किंग प्रवर्तन वाहनों में लागू किया जाएगा, जो पहले से ही शहर की बसों पर लगे समान कैमरों का विस्तार करेगा। "जितना अधिक हम अवैध पार्किंग की मात्रा को कम कर सकते हैं, उतना ही सुरक्षित हम बाइक सवारों के लिए इसे बना सकते हैं," Hayden AI के मुख्य विकास अधिकारी चार्ली टेरिटो ने Ars Technica को बताया।

Nvidia के शोधकर्ताओं ने डायनेमिक मेमोरी स्पार्सिफिकेशन (DMS) नामक एक तकनीक विकसित की है जो बड़े भाषा मॉडल तर्क की मेमोरी लागत को आठ गुना तक कम कर सकती है। यह तकनीक की-वैल्यू (KV) कैश को संपीड़ित करती है, जो अस्थायी मेमोरी LLM प्रॉम्प्ट को संसाधित करते समय उत्पन्न और संग्रहीत करते हैं। VentureBeat के अनुसार, प्रयोगों से पता चला है कि DMS LLM को सटीकता का त्याग किए बिना अधिक समय तक "सोचने" और अधिक समाधानों का पता लगाने में सक्षम बनाता है।

अन्य खबरों में, खगोलविद नेपच्यून की कक्षा से परे जमे हुए मलबे के एक क्षेत्र, कुइपर बेल्ट का अध्ययन करना जारी रखते हैं। पिछले 30 वर्षों में, खगोलविदों ने लगभग 4,000 कुइपर बेल्ट वस्तुओं को सूचीबद्ध किया है, लेकिन Ars Technica के अनुसार, आने वाले वर्षों में यह संख्या दस गुना बढ़ने की उम्मीद है क्योंकि अधिक उन्नत टेलीस्कोप से अवलोकन आते हैं।