चीन कृत्रिम बुद्धिमत्ता (एआई) उत्पादों और सेवाओं को विनियमित करने के लिए नए नियमों का प्रस्ताव कर रहा है, जिसमें बच्चों की सुरक्षा और हानिकारक सामग्री की रोकथाम पर ध्यान केंद्रित किया गया है। चीन के साइबरस्पेस प्रशासन (सीएसी) ने सप्ताहांत में मसौदा नियमों को प्रकाशित किया, जिसमें बच्चों की सुरक्षा और एआई-संचालित इंटरैक्शन से जुड़े संभावित जोखिमों को दूर करने के उपायों की रूपरेखा दी गई है।

प्रस्तावित नियम एआई डेवलपर्स को लक्षित करते हैं, जिसमें उन्हें युवा उपयोगकर्ताओं के लिए वैयक्तिकृत सेटिंग्स और उपयोग पर समय सीमा लागू करने की आवश्यकता होती है। इसके अलावा, एआई फर्मों को बच्चों को भावनात्मक साहचर्य सेवाएं प्रदान करने से पहले अभिभावकों से सहमति प्राप्त करने की आवश्यकता होगी। नियमों का उद्देश्य एआई मॉडल को जुए को बढ़ावा देने वाली सामग्री उत्पन्न करने से रोकना भी है, जो एआई के संभावित उपयोग के बारे में व्यापक चिंताओं को दर्शाता है जो समाज के लिए हानिकारक हो सकता है।

एक प्रमुख प्रावधान एआई चैटबॉट द्वारा दी जाने वाली सलाह के जोखिम को संबोधित करता है जिससे आत्म-नुकसान या हिंसा हो सकती है। प्रस्तावित नियमों के तहत, चैटबॉट ऑपरेटरों को आत्महत्या या आत्म-नुकसान से संबंधित किसी भी बातचीत को संभालने के लिए एक मानव की आवश्यकता होगी। सीएसी के अनुसार, ऑपरेटर को उपयोगकर्ता के अभिभावक या आपातकालीन संपर्क को भी तुरंत सूचित करना होगा।

ये नियम चीन और विश्व स्तर पर लॉन्च किए जा रहे एआई चैटबॉट की संख्या में तेजी से वृद्धि के बीच आए हैं। यह कदम तेजी से बढ़ते एआई क्षेत्र को विनियमित करने के एक महत्वपूर्ण प्रयास का संकेत देता है, जिसे सुरक्षा चिंताओं के संबंध में बढ़ती जांच का सामना करना पड़ा है। एक बार अंतिम रूप दिए जाने के बाद, नियम चीन के भीतर काम करने वाले सभी एआई उत्पादों और सेवाओं पर लागू होंगे।

यह विकास एआई के नैतिक निहितार्थों और संभावित जोखिमों को कम करने के लिए नियामक ढांचे की आवश्यकता के आसपास बढ़ती वैश्विक बहस पर प्रकाश डालता है। जैसे-जैसे एआई तकनीक अधिक परिष्कृत होती जा रही है और दैनिक जीवन में एकीकृत होती जा रही है, सरकारें और संगठन यह सुनिश्चित करने के लिए संघर्ष कर रहे हैं कि इसका जिम्मेदार विकास और तैनाती हो। चीनी नियम इन चुनौतियों का सामना करने के लिए एक दृष्टिकोण का प्रतिनिधित्व करते हैं, जो विशिष्ट क्षेत्रों जैसे कि बाल सुरक्षा और हानिकारक सामग्री की रोकथाम पर ध्यान केंद्रित करते हैं। सीएसी ने अभी तक यह घोषणा नहीं की है कि मसौदा नियमों को कब अंतिम रूप दिया जाएगा और लागू किया जाएगा।