एआई को ठीक करना: सत्य, आरएजी, और विषैला कोड एंटरप्राइज़ सिस्टम्स को कर रहे हैं तबाह

एआई सिस्टम सत्यता और विश्वसनीयता पर जांच के दायरे में

हालिया रिपोर्टों के अनुसार, उद्यम कृत्रिम बुद्धिमत्ता (एआई) सिस्टम की विश्वसनीयता और भरोसेमंदता से संबंधित चुनौतियों से जूझ रहे हैं, खासकर सामग्री निर्माण और सूचना पुनर्प्राप्ति जैसे क्षेत्रों में। एआई द्वारा गलत सूचना फैलाने, विश्वास को कम करने और परिचालन जोखिमों को पेश करने की क्षमता को लेकर चिंताएं बढ़ रही हैं।

MIT टेक्नोलॉजी रिव्यू ने बताया कि अमेरिकी गृह सुरक्षा विभाग सार्वजनिक खपत के लिए सामग्री बनाने के लिए Google और Adobe से AI वीडियो जनरेटर का उपयोग कर रहा है। इस खुलासे ने एआई के जनता को गुमराह करने और सामाजिक विश्वास को कमजोर करने की क्षमता के बारे में चिंताओं को तेज कर दिया है। लेख में एआई-जनित सामग्री द्वारा संचालित एक बढ़ते "सत्य संकट" पर प्रकाश डाला गया है जो व्यक्तियों को धोखा दे सकता है और मान्यताओं को आकार दे सकता है, भले ही झूठ का पता चल जाए।

इस बीच, VentureBeat ने उल्लेख किया कि कई संगठन यह खोज रहे हैं कि पुनर्प्राप्ति, एआई सिस्टम के लिए प्रासंगिक जानकारी निकालने की प्रक्रिया, एक महत्वपूर्ण बुनियादी ढांचा घटक बन गई है। वरुण राज ने लिखा है कि पुनर्प्राप्ति में विफलता के महत्वपूर्ण परिणाम हो सकते हैं, जो सीधे व्यावसायिक जोखिम में फैलते हैं। बासी संदर्भ, अनियंत्रित एक्सेस पथ और खराब तरीके से मूल्यांकन की गई पुनर्प्राप्ति पाइपलाइनें विश्वास, अनुपालन और परिचालन विश्वसनीयता को कमजोर कर सकती हैं। लेख में पुनर्प्राप्ति को एप्लिकेशन लॉजिक के बजाय बुनियादी ढांचे के रूप में फिर से परिभाषित करने की वकालत की गई है, पुनर्प्राप्ति प्लेटफार्मों को डिजाइन करने के लिए एक सिस्टम-स्तरीय मॉडल की आवश्यकता पर जोर दिया गया है।

MIT टेक्नोलॉजी रिव्यू द्वारा रिपोर्ट के अनुसार, मिस्ट्रल एआई के अनुसार, जेनरेटिव एआई को अपनाने की जल्दबाजी ने कई संगठनों के लिए चुनौतियां भी खड़ी कर दी हैं। कई पायलट कार्यक्रम मूल्य देने में विफल रहे हैं, जिससे कंपनियां मापने योग्य परिणामों की तलाश कर रही हैं। मिस्ट्रल एआई उद्योग के नेताओं के साथ मिलकर विशिष्ट चुनौतियों और लक्ष्यों को संबोधित करने के लिए खुले फ्रंटियर मॉडल से शुरू करके और एआई सिस्टम को अनुकूलित करके, अनुरूप एआई समाधानों को सह-डिजाइन करता है। उनकी कार्यप्रणाली एआई परिवर्तन की नींव के रूप में एक "प्रतिष्ठित उपयोग मामले" की पहचान करने पर जोर देती है, जो भविष्य के एआई समाधानों के लिए खाका तैयार करती है।

अन्य खबरों में, यूटा विश्वविद्यालय के शोध, जो हैकर न्यूज पर प्रकाशित हुआ, ने गैसोलीन में सीसा पर प्रतिबंध लगाने के सकारात्मक प्रभाव को प्रदर्शित किया। एक सदी पहले के बालों के नमूनों के विश्लेषण में यूटाहवासियों में सीसा सांद्रता में 100 गुना कमी दर्ज की गई। 1970 में पर्यावरण संरक्षण एजेंसी की स्थापना से पहले, अमेरिकी विभिन्न स्रोतों से उच्च स्तर के सीसे के संपर्क में थे, जिसमें टेलपाइप उत्सर्जन भी शामिल था। अध्ययन ने लेडेड गैसोलीन पर प्रतिबंध के बाद से इस खतरनाक न्यूरोटॉक्सिन के मानव जोखिम में महत्वपूर्ण कमी का प्रमाण प्रदान किया है।

GitHub समुदाय ने GitHub पर निम्न-गुणवत्ता वाले योगदानों से निपटने के लिए समाधानों पर भी चर्चा की। उपयोगकर्ताओं ने योगदान की गुणवत्ता में सुधार और एक स्वस्थ समुदाय बनाए रखने के तरीकों का पता लगाया।