चीन के साइबरस्पेस प्रशासन ने शनिवार को कृत्रिम बुद्धिमत्ता (एआई) चैटबॉट को विनियमित करने और उन्हें उपयोगकर्ताओं को भावनात्मक रूप से हेरफेर करने से रोकने के लिए नियमों का प्रस्ताव रखा, जिससे एआई-समर्थित आत्महत्या, आत्म-नुकसान और हिंसा के खिलाफ दुनिया की सबसे सख्त नीतियां स्थापित हो सकती हैं। प्रस्तावित नियम चीन में जनता के लिए उपलब्ध किसी भी एआई उत्पाद या सेवा पर लागू होंगे जो पाठ, छवियों, ऑडियो, वीडियो या अन्य तरीकों के माध्यम से मानव बातचीत का अनुकरण करते हैं।

इन नियमों का उद्देश्य एआई साथियों के संभावित नुकसान के बारे में बढ़ती चिंताओं को दूर करना है। 2025 में शोधकर्ताओं ने आत्म-नुकसान, हिंसा और यहां तक कि आतंकवाद को बढ़ावा देने जैसे मुद्दों की पहचान की। इसके अलावा, चैटबॉट को गलत सूचना फैलाने, अवांछित यौन प्रस्ताव देने, मादक द्रव्यों के सेवन को प्रोत्साहित करने और मौखिक दुर्व्यवहार में शामिल होने के लिए पाया गया है। कुछ मनोचिकित्सकों ने चैटबॉट के उपयोग और मनोविकृति के बीच संभावित संबंधों का पता लगाना भी शुरू कर दिया है।

एनवाईयू स्कूल ऑफ लॉ के सहायक प्रोफेसर विंस्टन मा ने सीएनबीसी को बताया कि ये नियोजित नियम मानव जैसी विशेषताओं के साथ एआई को विनियमित करने के दुनिया के पहले प्रयास का प्रतिनिधित्व करते हैं, एक ऐसा कदम जो साथी बॉट के उपयोग के वैश्विक स्तर पर बढ़ने के साथ आया है। इस प्रकार की एआई, जिसे अक्सर "एंथ्रोपोमोर्फिक एआई" कहा जाता है, को मानव संपर्क की नकल करने और उपयोगकर्ताओं के साथ संबंध बनाने के लिए डिज़ाइन किया गया है।

प्रस्तावित नियम एआई तकनीक से जुड़े संभावित जोखिमों के बारे में बढ़ती जागरूकता को दर्शाते हैं, खासकर उपयोगकर्ताओं की भावनाओं और व्यवहारों को प्रभावित करने की इसकी क्षमता के बारे में। चीनी सरकार का यह कदम एआई प्रणालियों के जिम्मेदार विकास और तैनाती को सुनिश्चित करने के लिए सक्रिय उपायों की आवश्यकता पर प्रकाश डालता है।

साइबरस्पेस प्रशासन का प्रस्ताव वर्तमान में विचाराधीन है। यदि इसे अंतिम रूप दिया जाता है, तो इन नियमों का चीन में एआई उद्योग पर महत्वपूर्ण प्रभाव पड़ने की संभावना है और यह अन्य देशों में एआई नियमों के विकास को संभावित रूप से प्रभावित कर सकता है। इन नियमों को कैसे लागू किया जाएगा और गैर-अनुपालन के लिए संभावित दंड के विशिष्ट विवरण अभी भी देखे जाने बाकी हैं।