बोस्टन लोगन अंतर्राष्ट्रीय हवाई अड्डे की फ़्लोरोसेंट लाइटें धुंधली हो रही थीं, क्योंकि 19 वर्षीय कॉलेज की छात्रा एनी लूसिया लोपेज़ बेलोज़ा ने अपना बोर्डिंग पास कसकर पकड़ा हुआ था। उसके अंदर उत्साह उफान मार रहा था; वह थैंक्सगिविंग पर टेक्सास में अपने परिवार को सरप्राइज़ देने वाली थी। लेकिन वह खुशी पल भर में भाप बन गई। गर्मजोशी से गले मिलने के बजाय, उसे हिरासत का सामना करना पड़ा, और 48 घंटों के भीतर, वह टेक्सास नहीं, बल्कि होंडुरास के लिए एक विमान में थी, एक ऐसा देश जिसे वह मुश्किल से जानती थी। ट्रम्प प्रशासन ने बाद में स्वीकार किया कि यह निर्वासन एक "गलती" थी, एक चौंकाने वाला प्रवेश जो आव्रजन प्रवर्तन, प्रौद्योगिकी और मानवाधिकारों के चौराहे के बारे में गहरे सवाल उठाता है।

यह मामला, हालांकि देखने में अलग-थलग है, एक बढ़ती चिंता को रेखांकित करता है: आव्रजन प्रक्रियाओं में एल्गोरिदम और एआई पर बढ़ती निर्भरता, अक्सर सीमित पारदर्शिता और जवाबदेही के साथ। जबकि सरकार ने तर्क दिया कि त्रुटि को उसके आव्रजन मामले को प्रभावित नहीं करना चाहिए, घटना एल्गोरिथम पूर्वाग्रह की संभावना और विनाशकारी परिणामों को उजागर करती है जब ये सिस्टम विफल हो जाते हैं।

लोपेज़ बेलोज़ा की परीक्षा 20 नवंबर को शुरू हुई। सरकार को उसे अमेरिका में रखने के निर्देश देने वाले एक आपातकालीन अदालत के आदेश के बावजूद, उसे निर्वासित कर दिया गया। जिस गति और दक्षता के साथ यह हुआ, यहां तक कि कानूनी हस्तक्षेप के सामने भी, एक ऐसी प्रणाली का सुझाव देता है जो उचित प्रक्रिया पर तेजी से प्रसंस्करण को प्राथमिकता देती है। इस दक्षता को अक्सर एआई-संचालित प्रणालियों के लाभ के रूप में प्रचारित किया जाता है, लेकिन यह अंतर्निहित खामियों और पूर्वाग्रहों को भी छिपा सकता है।

लोपेज़ बेलोज़ा के मामले में उपयोग किए गए विशिष्ट एआई उपकरण अस्पष्ट बने हुए हैं। हालांकि, आव्रजन प्रवर्तन एजेंसियां जोखिम मूल्यांकन, चेहरे की पहचान और भविष्य कहने वाली पुलिसिंग के लिए तेजी से एल्गोरिदम का उपयोग करती हैं। ये उपकरण उन व्यक्तियों की पहचान करने के लिए विशाल डेटासेट का विश्लेषण करते हैं जिन्हें खतरा माना जाता है या आव्रजन कानूनों का उल्लंघन करने का जोखिम होता है। समस्या यह है कि ये डेटासेट अक्सर मौजूदा सामाजिक पूर्वाग्रहों को दर्शाते हैं, जिससे भेदभावपूर्ण परिणाम होते हैं। उदाहरण के लिए, यदि किसी एल्गोरिदम को उस डेटा पर प्रशिक्षित किया जाता है जो असमान रूप से कुछ जातीय पृष्ठभूमि के व्यक्तियों को लक्षित करता है, तो यह अपनी भविष्यवाणियों में उस पूर्वाग्रह को जारी रखने की संभावना है।

एआई नाउ इंस्टीट्यूट के एक प्रमुख एआई शोधकर्ता और अध्यक्ष डॉ. मेरेडिथ व्हिटेकर बताते हैं, "एआई उतना ही अच्छा है जितना कि वह डेटा जिस पर उसे प्रशिक्षित किया गया है।" "यदि डेटा ऐतिहासिक पूर्वाग्रहों को दर्शाता है, तो एआई उन पूर्वाग्रहों को बढ़ाएगा, जिससे अनुचित और भेदभावपूर्ण परिणाम होंगे। आव्रजन के संदर्भ में, इसके विनाशकारी परिणाम हो सकते हैं।"

चेहरे की पहचान तकनीक, एक अन्य उपकरण जिसका उपयोग हवाई अड्डों और सीमा नियंत्रण में तेजी से किया जा रहा है, विशेष रूप से त्रुटि की संभावना है, खासकर जब हाशिए के समुदायों के व्यक्तियों की पहचान की जाती है। अध्ययनों से पता चला है कि ये सिस्टम रंग के लोगों की पहचान करते समय काफी कम सटीक होते हैं, जिससे गलत पहचान और गलत हिरासत के बारे में चिंताएं बढ़ रही हैं।

आव्रजन में एआई का उपयोग पारदर्शिता और जवाबदेही के बारे में भी चिंताएं बढ़ाता है। सरकारी एजेंसियों द्वारा उपयोग किए जाने वाले एल्गोरिदम अक्सर मालिकाना होते हैं, जिससे यह समझना मुश्किल हो जाता है कि निर्णय कैसे लिए जाते हैं और संभावित रूप से पक्षपाती परिणामों को चुनौती देना मुश्किल हो जाता है। पारदर्शिता की यह कमी उचित प्रक्रिया को कमजोर करती है और इन प्रणालियों को जवाबदेह ठहराना कठिन बना देती है।

इलेक्ट्रॉनिक फ्रंटियर फाउंडेशन में एक वरिष्ठ नीति विश्लेषक एलेनोर पॉवेल का तर्क है, "हमें आव्रजन प्रवर्तन में उपयोग किए जाने वाले एआई सिस्टम की अधिक पारदर्शिता और निरीक्षण की आवश्यकता है।" "लोगों को यह समझने का अधिकार है कि ये सिस्टम उनके जीवन को प्रभावित करने वाले निर्णय कैसे ले रहे हैं, और उन्हें उन निर्णयों को चुनौती देने का अवसर मिलना चाहिए।"

लोपेज़ बेलोज़ा का मामला उच्च जोखिम वाले निर्णय लेने में एआई पर निर्भर रहने की संभावित कमियों की एक गंभीर याद दिलाता है। जबकि एआई बढ़ी हुई दक्षता और सटीकता का वादा करता है, यह पूर्वाग्रह को बनाए रखने और मौलिक अधिकारों को कमजोर करने का जोखिम भी उठाता है। जैसे-जैसे एआई तेजी से आव्रजन प्रक्रियाओं में एकीकृत होता जा रहा है, पारदर्शिता, जवाबदेही और मानव निरीक्षण को प्राथमिकता देना महत्वपूर्ण है ताकि यह सुनिश्चित किया जा सके कि इन प्रणालियों का उपयोग निष्पक्ष और न्यायपूर्ण तरीके से किया जाए। आव्रजन प्रवर्तन का भविष्य एआई की शक्ति को जिम्मेदारी से उपयोग करने, इसके जोखिमों को कम करने और यह सुनिश्चित करने की हमारी क्षमता पर निर्भर करता है कि प्रौद्योगिकी मानवता की सेवा करे, न कि इसके विपरीत। लोपेज़ बेलोज़ा के मामले में "गलती" आव्रजन में एआई के नैतिक निहितार्थों और कमजोर आबादी की रक्षा के लिए सुरक्षा उपायों की तत्काल आवश्यकता के बारे में एक व्यापक बातचीत के लिए उत्प्रेरक होनी चाहिए।