रोblox द्वारा हाल ही में शुरू की गई AI-आधारित आयु सत्यापन प्रणाली अपनी व्यापक शुरुआत के कुछ ही दिनों बाद महत्वपूर्ण आलोचना का सामना कर रही है। चेहरा स्कैन करने वाली यह प्रणाली, जिसे चैट फ़ंक्शन तक पहुँच प्रदान करने से पहले उपयोगकर्ताओं की आयु का अनुमान लगाने के लिए डिज़ाइन किया गया है, खिलाड़ियों और डेवलपर्स के बीच विवाद का कारण बन गई है, और विशेषज्ञों के बीच इसकी प्रभावशीलता और संभावित सामाजिक प्रभाव के बारे में चिंताएँ बढ़ गई हैं।

यह प्रणाली, जिसे शुरू में दिसंबर में कुछ चुनिंदा स्थानों पर लॉन्च किया गया था, पिछले सप्ताह अमेरिका और अन्य देशों में विस्तारित होने से पहले, इसका उद्देश्य समान आयु के उपयोगकर्ताओं के साथ बातचीत को प्रतिबंधित करके सुरक्षित चैट वातावरण बनाना है। Roblox ने कहा कि इस प्रणाली के पीछे का इरादा उपयोगकर्ताओं को समान आयु के उपयोगकर्ताओं के साथ सुरक्षित रूप से चैट करने की अनुमति देना था। हालाँकि, खिलाड़ियों द्वारा गलत पहचान की समस्याएँ बताई जा रही हैं, जिससे दोस्तों के साथ संचार पर प्रतिबंध लग रहा है। डेवलपर्स भी अपडेट को वापस लेने की मांग कर रहे हैं, उनका कहना है कि इससे उनके समुदायों में व्यवधान हो रहा है।

इस मुद्दे का मूल AI की आयु अनुमान की सटीकता में निहित है। चेहरे की पहचान तकनीक, तेजी से आगे बढ़ने के साथ, छवियों के विशाल डेटासेट पर प्रशिक्षित एल्गोरिदम पर निर्भर करती है। ये एल्गोरिदम उम्र का अनुमान लगाने के लिए चेहरे की विशेषताओं का विश्लेषण करते हैं, लेकिन प्रकाश, छवि गुणवत्ता और उपस्थिति में व्यक्तिगत भिन्नताओं जैसे कारकों से प्रभावित हो सकते हैं। जब AI किसी उपयोगकर्ता की उम्र को गलत पहचानता है, तो इससे अनपेक्षित परिणाम हो सकते हैं, जैसे कि छोटे उपयोगकर्ताओं को आयु-उपयुक्त सामग्री तक पहुँचने से रोकना या, इसके विपरीत, बड़े उपयोगकर्ताओं को छोटे दर्शकों के लिए अभिप्रेत स्थानों तक पहुँचने की अनुमति देना।

विशेषज्ञ ऑनलाइन शिकारियों की अंतर्निहित समस्या को हल करने की प्रणाली की क्षमता पर भी सवाल उठा रहे हैं। WIRED ने eBay पर 9 साल के बच्चों के लिए आयु-सत्यापित खातों के विज्ञापन पाए, जिनकी कीमत $4 जितनी कम थी। ये लिस्टिंग सिस्टम में एक संभावित खामी को उजागर करती हैं, जहाँ दुर्भावनापूर्ण अभिनेता सत्यापित खाते खरीदकर आयु प्रतिबंधों को दरकिनार कर सकते हैं। eBay की प्रवक्ता मैडी मार्टिनेज ने कहा कि WIRED द्वारा चिह्नित किए जाने के बाद कंपनी साइट की नीतियों का उल्लंघन करने के लिए लिस्टिंग को हटा रही है।

यह AI का उपयोग करके आयु सत्यापन की नैतिकता और प्रभावशीलता के बारे में व्यापक प्रश्न उठाता है। जबकि यह तकनीक ऑनलाइन सुरक्षा चिंताओं का एक संभावित समाधान प्रदान करती है, लेकिन यह अपनी सीमाओं के बिना नहीं है। गलत पहचान का जोखिम, परिहार की संभावना और इन एल्गोरिदम के संचालन में पारदर्शिता की कमी सभी चुनौतियाँ पेश करती हैं। इसके अलावा, चेहरे की स्कैनिंग तकनीक का उपयोग गोपनीयता संबंधी चिंताएँ पैदा करता है, विशेष रूप से बायोमेट्रिक डेटा के भंडारण और उपयोग के संबंध में।

कंपनी द्वारा अपने उपयोगकर्ता आधार और व्यापक समुदाय से बढ़ते दबाव का सामना करने के कारण, सिस्टम की वर्तमान स्थिति Roblox द्वारा समीक्षाधीन है। अगले विकास में AI एल्गोरिदम में समायोजन, बेहतर उपयोगकर्ता प्रतिक्रिया तंत्र और संभावित रूप से आयु सत्यापन के समग्र दृष्टिकोण का पुनर्मूल्यांकन शामिल होगा। यह घटना AI-संचालित समाधानों को तैनात करने में शामिल जटिलताओं और संभावित लाभों और संभावित जोखिमों दोनों पर विचार करने के महत्व की याद दिलाती है।