AI का सत्य संकट: उद्यम DEI, RAG और सिस्टम डिज़ाइन से जूझ रहे हैं

HHS ने अनुदानों में DEI को लक्षित करने के लिए Palantir AI उपकरणों का उपयोग किया, दस्तावेज़ दिखाते हैं

स्वास्थ्य और मानव सेवा विभाग (HHS) ने हाल ही में प्रकाशित HHS के 2025 में AI उपयोग मामलों की सूची के अनुसार, पूर्व राष्ट्रपति डोनाल्ड ट्रम्प के विविधता, इक्विटी और समावेशन (DEI) पहलों और लिंग विचारधारा को लक्षित करने वाले कार्यकारी आदेशों के अनुपालन के लिए अनुदानों, अनुदान आवेदनों और नौकरी विवरणों की जांच करने के लिए Palantir Technologies से कृत्रिम बुद्धिमत्ता उपकरणों का उपयोग किया। इन उद्देश्यों के लिए Palantir के सॉफ़्टवेयर के उपयोग की सार्वजनिक रूप से Palantir या HHS द्वारा घोषणा नहीं की गई थी।

सूची से पता चला कि HHS मार्च 2025 से AI उपकरणों का उपयोग कर रहा था। Wired के अनुसार, ट्रम्प के दूसरे कार्यकाल के पहले वर्ष के दौरान, Palantir को अकेले HHS से $35 मिलियन से अधिक का भुगतान और दायित्व प्राप्त हुआ। हालाँकि, इन लेन-देन के विवरण में DEI या लिंग विचारधारा को लक्षित करने वाले कार्य का उल्लेख नहीं किया गया था।

AI कार्यान्वयन के संबंध में अन्य खबरों में, VentureBeat के अनुसार, उद्यम तेजी से पुनर्प्राप्ति को एक मूलभूत सिस्टम निर्भरता के रूप में पहचान रहे हैं जब वे बड़े भाषा मॉडल (LLM) को मालिकाना डेटा में आधार बनाने के लिए पुनर्प्राप्ति-संवर्धित पीढ़ी (RAG) को अपना रहे हैं। पुनर्प्राप्ति में विफलताएं सीधे व्यावसायिक जोखिम में फैल सकती हैं, जिससे विश्वास, अनुपालन और परिचालन विश्वसनीयता कमजोर हो सकती है। VentureBeat ने बताया, "बासी संदर्भ, अनियमित पहुंच मार्ग और खराब मूल्यांकन वाली पुनर्प्राप्ति पाइपलाइनें न केवल उत्तर की गुणवत्ता को कम करती हैं; वे विश्वास, अनुपालन और परिचालन विश्वसनीयता को कमजोर करती हैं।"

इस बीच, MIT Technology Review ने बताया कि अमेरिकी गृह सुरक्षा विभाग सार्वजनिक खपत के लिए सामग्री बनाने के लिए Google और Adobe से AI वीडियो जनरेटर का उपयोग कर रहा है। इस खबर ने AI-जनित सामग्री से सामाजिक विश्वास के क्षरण की संभावना के बारे में चिंताएं बढ़ा दी हैं।

सफल उद्यम AI सिस्टम सुनिश्चित करने के लिए, Mistral AI AI परिवर्तन की नींव के रूप में एक "प्रतिष्ठित उपयोग मामला" पहचानने की सिफारिश करता है। MIT Technology Review के अनुसार, इस दृष्टिकोण में विशिष्ट चुनौतियों का समाधान करने और मापने योग्य परिणाम प्राप्त करने के लिए उद्योग के नेताओं के साथ मिलकर तैयार किए गए AI समाधानों को सह-डिज़ाइन करना शामिल है।

Asana के CPO अर्नब बोस ने एक उद्यम के भीतर सफल AI एजेंटों के लिए साझा मेमोरी और संदर्भ के महत्व पर जोर दिया। सैन फ्रांसिस्को में एक VentureBeat कार्यक्रम में बोस ने कहा, "जब आप कोई कार्य सौंपते हैं, तो आपको यह बताने की आवश्यकता नहीं होती है कि आपका व्यवसाय कैसे काम करता है।" Asana ने पिछले साल Asana AI Teammates लॉन्च किया था, जिसका लक्ष्य एक सहयोगी प्रणाली बनाना था जहाँ AI एजेंट सीधे टीमों और परियोजनाओं में एकीकृत हों।