बोस्टन लोगन अंतरराष्ट्रीय हवाई अड्डे की फ्लोरोसेंट लाइटें धुंधली हो रही थीं क्योंकि 19 वर्षीय कॉलेज की छात्रा एनी लूसिया लोपेज़ बेलोज़ा ने अपना बोर्डिंग पास पकड़ रखा था। उसके अंदर उत्साह उबल रहा था; वह थैंक्सगिविंग के लिए टेक्सास में अपने परिवार को सरप्राइज़ देने वाली थी। लेकिन खुशी तब काफूर हो गई जब आव्रजन अधिकारियों ने उसे रोक लिया, और 48 घंटों के भीतर, एनी लूसिया को होंडुरास निर्वासित कर दिया गया, एक ऐसा देश जिसे वह मुश्किल से जानती थी। ट्रम्प प्रशासन ने बाद में स्वीकार किया कि यह एक "गलती" थी, लेकिन यह घटना आव्रजन प्रवर्तन में एल्गोरिदम और डेटा की भूमिका और इन प्रणालियों में पूर्वाग्रह की संभावना के बारे में महत्वपूर्ण सवाल उठाती है।

एनी लूसिया का मामला एक बढ़ती चिंता को उजागर करता है: आव्रजन प्रक्रियाओं में एआई-संचालित उपकरणों पर बढ़ती निर्भरता। जबकि उसके मामले में उपयोग किए गए एल्गोरिदम की विशिष्टताएँ अज्ञात हैं, यह संभावना है कि संभावित आव्रजन उल्लंघनों की पहचान करने के लिए डिज़ाइन किए गए एक सिस्टम ने उसे चिह्नित किया था। ये सिस्टम अक्सर जोखिम का आकलन करने के लिए यात्रा इतिहास, सोशल मीडिया गतिविधि और यहां तक कि चेहरे की पहचान डेटा सहित विशाल डेटासेट का विश्लेषण करते हैं। लक्ष्य प्रक्रिया को सुव्यवस्थित करना, संभावित खतरों की पहचान करना और संसाधनों को कुशलतापूर्वक आवंटित करना है। हालाँकि, इन एल्गोरिदम की अपारदर्शी प्रकृति, जिन्हें अक्सर "ब्लैक बॉक्स" कहा जाता है, यह समझना मुश्किल बना देती है कि निर्णय कैसे लिए जाते हैं और क्या वे निष्पक्ष हैं।

मूल मुद्दा एल्गोरिथम पूर्वाग्रह की संभावना में निहित है। एआई सिस्टम डेटा से सीखते हैं, और यदि वह डेटा मौजूदा सामाजिक पूर्वाग्रहों को दर्शाता है, तो एल्गोरिदम उन्हें कायम रखेगा और यहां तक कि बढ़ा भी देगा। उदाहरण के लिए, यदि किसी एल्गोरिदम को प्रशिक्षित करने के लिए उपयोग किए गए डेटासेट में कुछ जातीय पृष्ठभूमि के व्यक्तियों को आव्रजन उल्लंघनों के लिए चिह्नित किए जाने के असमान उदाहरण शामिल हैं, तो एल्गोरिदम भविष्य में उन समान पृष्ठभूमि के व्यक्तियों को अनुचित तरीके से लक्षित कर सकता है। इससे भेदभावपूर्ण परिणाम हो सकते हैं, भले ही एल्गोरिदम को स्पष्ट रूप से पक्षपाती होने के लिए डिज़ाइन नहीं किया गया हो।

एआई नाउ इंस्टीट्यूट के अध्यक्ष डॉ. मेरेडिथ व्हिटेकर बताते हैं, "एल्गोरिथम पूर्वाग्रह उन सभी क्षेत्रों में एक गंभीर चिंता है जहां एआई का उपयोग ऐसे निर्णय लेने के लिए किया जा रहा है जो लोगों के जीवन को प्रभावित करते हैं।" एआई नाउ इंस्टीट्यूट एक प्रमुख अनुसंधान केंद्र है जो कृत्रिम बुद्धिमत्ता के सामाजिक निहितार्थों की जांच करता है। "आव्रजन के संदर्भ में, दांव अविश्वसनीय रूप से ऊंचे हैं। एक पक्षपाती एल्गोरिदम गलत तरीके से हिरासत, निर्वासन और परिवार के अलगाव का कारण बन सकता है।"

एनी लूसिया के मामले में ट्रम्प प्रशासन की त्रुटि की स्वीकृति इन प्रणालियों की त्रुटिहीनता को रेखांकित करती है। परिष्कृत एल्गोरिदम के साथ भी, गलतियाँ हो सकती हैं, और परिणाम विनाशकारी हो सकते हैं। जबकि प्रशासन ने माफी मांगी, उन्होंने साथ ही तर्क दिया कि त्रुटि को उसके आव्रजन मामले को प्रभावित नहीं करना चाहिए, जिससे सिस्टम में निहित जटिलताओं और संभावित अन्याय को और उजागर किया गया।

आव्रजन प्रवर्तन में एआई के उपयोग से पारदर्शिता और जवाबदेही के बारे में भी चिंताएं बढ़ रही हैं। जब कोई इंसान गलती करता है, तो आमतौर पर समीक्षा और अपील की प्रक्रिया होती है। हालाँकि, जब कोई एल्गोरिदम गलती करता है, तो यह समझना मुश्किल हो सकता है कि निर्णय क्यों लिया गया और इसे कैसे चुनौती दी जाए। पारदर्शिता की कमी से सिस्टम को जवाबदेह ठहराना और यह सुनिश्चित करना कठिन हो जाता है कि यह निष्पक्ष और न्यायसंगत है।

यूरोपीय संघ एआई अधिनियम के साथ इन चिंताओं को दूर करने के लिए कदम उठा रहा है, एक प्रस्तावित विनियमन जो एआई सिस्टम के विकास और तैनाती के लिए नियम स्थापित करेगा, जिसमें आव्रजन में उपयोग किए जाने वाले भी शामिल हैं। अधिनियम के लिए उच्च जोखिम वाले एआई सिस्टम को पारदर्शी, जवाबदेह और मानव निरीक्षण के अधीन होने की आवश्यकता होगी। यह आव्रजन प्रवर्तन में एआई के उपयोग को विनियमित करने की मांग करने वाले अन्य देशों के लिए एक मॉडल के रूप में काम कर सकता है।

एनी लूसिया लोपेज़ बेलोज़ा का अनुभव आव्रजन प्रवर्तन में एआई पर निर्भर रहने के संभावित खतरों की एक स्पष्ट याद दिलाता है। जबकि ये सिस्टम दक्षता और गति प्रदान कर सकते हैं, निष्पक्षता, पारदर्शिता और जवाबदेही सुनिश्चित करने के लिए उन्हें सावधानीपूर्वक डिज़ाइन और निगरानी की जानी चाहिए। जैसे-जैसे एआई का विकास जारी है, समाज के लिए इसके निहितार्थों के बारे में खुली और ईमानदार बातचीत करना और ऐसी नीतियां विकसित करना महत्वपूर्ण है जो सभी व्यक्तियों के अधिकारों और गरिमा की रक्षा करें। आव्रजन प्रवर्तन का भविष्य एआई की शक्ति का जिम्मेदारी और नैतिकता के साथ उपयोग करने की हमारी क्षमता पर निर्भर करता है।