चीन ने कृत्रिम बुद्धिमत्ता (आर्टिफिशियल इंटेलिजेंस) चैटबॉट द्वारा उपयोगकर्ताओं को भावनात्मक रूप सेmanipulate करने से रोकने के उद्देश्य से प्रस्तावित नियमों का मसौदा तैयार किया है, जो AI-supported आत्महत्या, आत्म-नुकसान और हिंसा के खिलाफ दुनिया की सबसे सख्त नीति स्थापित कर सकता है। चीन के साइबरस्पेस प्रशासन ने शनिवार को मसौदा नियमों को जारी किया।

प्रस्तावित नियम चीन में जनता के लिए उपलब्ध किसी भी AI उत्पाद या सेवा पर लागू होंगे जो टेक्स्ट, छवियों, ऑडियो, वीडियो या अन्य तरीकों के माध्यम से मानव वार्तालाप का अनुकरण करते हैं। NYU स्कूल ऑफ लॉ के सहायक प्रोफेसर विंस्टन मा ने CNBC को बताया कि ये नियोजित नियम मानव या मानववंशीय विशेषताओं को प्रदर्शित करने वाले AI को विनियमित करने का दुनिया का पहला प्रयास है, जो साथी बॉट्स की बढ़ती वैश्विक लोकप्रियता के बीच हो रहा है।

यह कदम AI साथियों से जुड़े संभावित नुकसानों के बारे में बढ़ती जागरूकता के बाद उठाया गया है। 2025 में शोधकर्ताओं ने आत्म-नुकसान, हिंसा और यहां तक कि आतंकवाद को बढ़ावा देने सहित महत्वपूर्ण जोखिमों की पहचान की। आगे की चिंताओं में चैटबॉट द्वारा गलत सूचना का प्रसार, अवांछित यौन प्रस्ताव, मादक द्रव्यों के सेवन को प्रोत्साहित करना और मौखिक दुर्व्यवहार में शामिल होना शामिल है। कुछ मनोचिकित्सकों ने चैटबॉट के उपयोग और मनोविकृति की शुरुआत के बीच संभावित संबंधों का पता लगाना भी शुरू कर दिया है।

ये नियम AI की उपयोगकर्ताओं की भावनात्मक स्थिति को प्रभावित करने की क्षमता पर प्रतिबंध लगाकर इन चिंताओं को दूर करना चाहते हैं। इन नियमों को लागू करने के लिए विशिष्ट तंत्र अभी भी अस्पष्ट हैं, लेकिन मसौदा AI को ऐसी प्रतिक्रियाएँ उत्पन्न करने से रोकने पर ध्यान केंद्रित करने का सुझाव देता है जिन्हें हानिकारक व्यवहारों को प्रोत्साहित करने के रूप में व्याख्यायित किया जा सकता है।

यह विकास मानसिक स्वास्थ्य और सामाजिक कल्याण पर AI के संभावित प्रभाव की बढ़ती जांच पर प्रकाश डालता है। जैसे-जैसे AI तकनीक अधिक परिष्कृत होती जा रही है और दैनिक जीवन में एकीकृत होती जा रही है, सरकारें और शोधकर्ता इन प्रगति के नैतिक और सामाजिक निहितार्थों से जूझ रहे हैं। चीनी नियम संभावित जोखिमों को कम करने के लिए एक सक्रिय दृष्टिकोण का प्रतिनिधित्व करते हैं, लेकिन कृत्रिम बुद्धिमत्ता के तेजी से विकसित हो रहे क्षेत्र में नवाचार और विनियमन के बीच संतुलन के बारे में भी सवाल उठाते हैं। नियम वर्तमान में मसौदा रूप में हैं और सार्वजनिक परामर्श की अवधि के बाद परिवर्तन के अधीन हैं।