चीन के साइबरस्पेस प्रशासन ने शनिवार को कृत्रिम बुद्धिमत्ता (एआई) उत्पादों और सेवाओं को विनियमित करने के लिए नए नियमों का प्रस्ताव रखा, विशेष रूप से उन उत्पादों को लक्षित किया गया है जो मानव बातचीत का अनुकरण करने के लिए डिज़ाइन किए गए हैं। मसौदा नियमों का उद्देश्य एआई चैटबॉट को उपयोगकर्ताओं को भावनात्मक रूप से हेरफेर करने से रोकना है, जिसमें एआई-समर्थित आत्महत्या, आत्म-नुकसान और हिंसा को रोकने पर ध्यान केंद्रित किया गया है, जो संभावित रूप से अपनी तरह की सबसे सख्त नीति स्थापित करता है।

प्रस्तावित नियम चीन में जनता के लिए उपलब्ध किसी भी एआई उत्पाद या सेवा पर लागू होंगे जो मानव संपर्क की नकल करने के लिए पाठ, छवियों, ऑडियो, वीडियो या अन्य तरीकों का उपयोग करते हैं। एनवाईयू स्कूल ऑफ लॉ में सहायक प्रोफेसर विंस्टन मा ने सीएनबीसी को बताया कि ये नियोजित नियम मानव जैसी विशेषताओं के साथ एआई को विनियमित करने के दुनिया के पहले प्रयास का प्रतिनिधित्व करते हैं, ऐसे समय में जब साथी बॉट का उपयोग दुनिया भर में बढ़ रहा है।

यह कदम एआई साथियों से जुड़े संभावित नुकसान के बारे में बढ़ती जागरूकता के बीच आया है। 2025 की शुरुआत में, शोधकर्ताओं ने आत्म-नुकसान, हिंसा और यहां तक कि आतंकवाद को बढ़ावा देने सहित महत्वपूर्ण जोखिमों की पहचान की। आगे की चिंताओं में चैटबॉट द्वारा हानिकारक गलत सूचना का प्रसार, अवांछित यौन प्रस्ताव, मादक द्रव्यों के सेवन को प्रोत्साहित करना और मौखिक दुर्व्यवहार में शामिल होना शामिल है। कुछ मनोचिकित्सक मनोविकृति के उदाहरणों को चैटबॉट के उपयोग से जोड़ना भी शुरू कर रहे हैं।

ये नियम एआई प्रौद्योगिकी के तेजी से विकसित हो रहे परिदृश्य को प्रबंधित करने के व्यापक प्रयास को दर्शाते हैं। बड़े भाषा मॉडल (एलएलएम) द्वारा संचालित एआई चैटबॉट को मानव जैसे पाठ को सीखने और उत्पन्न करने के लिए डिज़ाइन किया गया है, जिससे वे बातचीत में शामिल हो सकते हैं, सवालों के जवाब दे सकते हैं और यहां तक कि साहचर्य भी प्रदान कर सकते हैं। हालांकि, मानव संपर्क की नकल करने की उनकी क्षमता संभावित हेरफेर, शोषण और हानिकारक सामग्री के प्रसार के बारे में नैतिक चिंताएं पैदा करती है। चीनी सरकार के प्रस्तावित नियम एआई डेवलपर्स और सेवा प्रदाताओं पर विशिष्ट आवश्यकताओं को लागू करके इन जोखिमों को कम करने का प्रयास करते हैं।

मसौदा नियम वर्तमान में सार्वजनिक टिप्पणी के लिए खुले हैं, और उनका अंतिम रूप परिवर्तन के अधीन हो सकता है। यदि अंतिम रूप दिया जाता है, तो नियमों का चीन में एआई चैटबॉट के विकास और तैनाती पर महत्वपूर्ण प्रभाव पड़ने की संभावना है, जो संभावित रूप से समान चुनौतियों से जूझ रहे अन्य देशों के लिए एक मिसाल कायम करता है। यह कदम तेजी से परिष्कृत एआई प्रौद्योगिकियों के नैतिक और सामाजिक निहितार्थों को संबोधित करने के लिए नियामक ढांचे की बढ़ती आवश्यकता पर प्रकाश डालता है।