कृत्रिम बुद्धिमत्ता (AI) का विकास तेज़ी से हो रहा है, लेकिन सुरक्षा उपायों पर वैश्विक सहयोग को चुनौतियों का सामना करना पड़ रहा है। 19-20 फरवरी को दिल्ली में होने वाले AI इम्पैक्ट समिट से पहले जारी की गई एक नई अंतर्राष्ट्रीय AI सुरक्षा रिपोर्ट, AI सुधार की बढ़ती गति और संबंधित जोखिमों के बढ़ते प्रमाणों पर प्रकाश डालती है। रिपोर्ट के अध्यक्ष और ट्यूरिंग पुरस्कार विजेता वैज्ञानिक योशुआ बेंगियो के अनुसार, संयुक्त राज्य अमेरिका ने पिछले वर्ष के विपरीत, इस वर्ष की रिपोर्ट का समर्थन करने से इनकार कर दिया।
100 विशेषज्ञों द्वारा निर्देशित और यूनाइटेड किंगडम, चीन और यूरोपीय संघ सहित 30 देशों और अंतर्राष्ट्रीय संगठनों द्वारा समर्थित इस रिपोर्ट का उद्देश्य AI चुनौतियों पर अंतर्राष्ट्रीय सहयोग का एक उदाहरण स्थापित करना था। रिपोर्ट में निष्कर्ष निकाला गया कि वर्तमान जोखिम प्रबंधन तकनीकें बेहतर हो रही हैं लेकिन अपर्याप्त बनी हुई हैं।
इस बीच, उद्यम के भीतर, ध्यान व्यावहारिक AI कार्यान्वयन की ओर स्थानांतरित हो रहा है। Asana के CPO, अर्नब बोस ने सफल AI एजेंटों के लिए साझा मेमोरी और संदर्भ के महत्व पर जोर दिया। सैन फ्रांसिस्को में हाल ही में एक वेंचरबीट कार्यक्रम में बोलते हुए, बोस ने कहा कि AI एजेंटों को विस्तृत इतिहास और सीधी पहुंच प्रदान करने के साथ-साथ गार्डरेल चेकपॉइंट और मानव निरीक्षण, उन्हें सक्रिय टीम के सदस्यों के रूप में कार्य करने की अनुमति देता है। Asana ने पिछले साल AI को सीधे टीमों और परियोजनाओं में एकीकृत करने के लक्ष्य के साथ Asana AI Teammates लॉन्च किया था।
Mistral AI भी अनुकूलित AI समाधानों को सह-डिज़ाइन करने के लिए वैश्विक उद्योग के नेताओं के साथ काम कर रहा है। MIT टेक्नोलॉजी रिव्यू के अनुसार, Mistral AI विशिष्ट चुनौतियों का समाधान करने के लिए AI सिस्टम को अनुकूलित करने के लिए सिस्को, स्टेलेंटिस और ASML जैसी कंपनियों के साथ साझेदारी करता है। उनकी कार्यप्रणाली में भविष्य के AI समाधानों के लिए आधार के रूप में सेवा करने के लिए एक "आइकॉनिक उपयोग केस" की पहचान करना शामिल है।
हालांकि, AI के संभावित दुरुपयोग के बारे में चिंताएं बनी हुई हैं। स्टैनफोर्ड और इंडियाना विश्वविद्यालय के शोधकर्ताओं के एक अध्ययन में, जिसे MIT टेक्नोलॉजी रिव्यू द्वारा उजागर किया गया, ने आंद्रेसेन होरोविट्ज़ द्वारा समर्थित एक नागरिक ऑनलाइन बाज़ार की जांच की जो उपयोगकर्ताओं को सेलिब्रिटी डीपफेक उत्पन्न करने के लिए कस्टम निर्देश फ़ाइलें खरीदने की अनुमति देता है। अध्ययन में पाया गया कि कुछ फ़ाइलें विशेष रूप से साइट प्रतिबंधों के बावजूद, पोर्नोग्राफिक छवियां बनाने के लिए डिज़ाइन की गई थीं। शोधकर्ताओं ने 2023 के मध्य और 2024 के अंत के बीच सामग्री के अनुरोधों, जिन्हें "बाउंटी" कहा जाता है, का विश्लेषण किया।
एक अन्य मोर्चे पर, डेवलपर्स AI कॉन्फ़िगरेशन प्रबंधन को सुव्यवस्थित करने के लिए टूल पर काम कर रहे हैं। हैकर न्यूज़ ने क्रिस्टियन जोंका द्वारा विकसित एक एकीकृत AI कॉन्फ़िगरेशन प्रबंधन CLI, LNAI पर रिपोर्ट दी। LNAI का उद्देश्य उपयोगकर्ताओं को ".ai" फ़ाइल में एक बार कॉन्फ़िगरेशन को परिभाषित करने और फिर उन्हें विभिन्न टूल में सिंक करने की अनुमति देकर विभिन्न AI कोडिंग टूल के लिए कॉन्फ़िगरेशन प्रबंधित करने की प्रक्रिया को सरल बनाना है। समर्थित टूल में Claude, Codex, Cursor, Gemini CLI, GitHub Copilot, OpenCode और Windsurf शामिल हैं। टूल npm के माध्यम से उपलब्ध है और इसमें अनाथ फ़ाइलों के सत्यापन और स्वचालित सफाई के लिए सुविधाएँ शामिल हैं।
Discussion
AI Experts & Community
Be the first to comment