चीन के साइबरस्पेस प्रशासन ने शनिवार को कृत्रिम बुद्धिमत्ता (एआई) उत्पादों और सेवाओं को विनियमित करने के लिए नियमों का प्रस्ताव रखा जो मानव बातचीत का अनुकरण करते हैं, जिसका उद्देश्य एआई-समर्थित आत्महत्याओं, आत्म-नुकसान और हिंसा को रोकना है। मसौदा नियम, यदि अंतिम रूप दिए जाते हैं, तो चीन में सार्वजनिक रूप से उपलब्ध किसी भी एआई उत्पाद या सेवा पर लागू होंगे जो मानव संपर्क की नकल करने के लिए पाठ, छवियों, ऑडियो, वीडियो या अन्य माध्यमों का उपयोग करते हैं।

प्रस्तावित नियम उस चीज़ को चिह्नित करते हैं जिसे एनवाईयू स्कूल ऑफ़ लॉ के सहायक प्रोफेसर विंस्टन मा ने सीएनबीसी को बताया कि मानव या मानवशास्त्रीय विशेषताओं के साथ एआई को विनियमित करने का दुनिया का पहला प्रयास है। यह ऐसे समय में आया है जब साथी बॉट्स का उपयोग विश्व स्तर पर बढ़ रहा है, जिससे संभावित नुकसान के बारे में चिंताएं बढ़ रही हैं।

इस तरह के नियमों की आवश्यकता एआई साथियों के संभावित नकारात्मक प्रभावों के बारे में बढ़ती जागरूकता से उपजी है। 2025 की शुरुआत में, शोधकर्ताओं ने आत्म-नुकसान, हिंसा और यहां तक कि आतंकवाद को बढ़ावा देने सहित प्रमुख जोखिमों की पहचान की। आगे की चिंताओं में चैटबॉट द्वारा हानिकारक गलत सूचना का प्रसार, अवांछित यौन प्रस्ताव बनाना, मादक द्रव्यों के सेवन को प्रोत्साहित करना और मौखिक दुर्व्यवहार में शामिल होना शामिल है। कुछ मनोचिकित्सकों ने चैटबॉट के उपयोग और मनोविकृति के बीच संभावित संबंधों का पता लगाना भी शुरू कर दिया है।

ये नियम एआई मॉडल की बढ़ती परिष्कार, विशेष रूप से बड़े भाषा मॉडल (एलएलएम) को संबोधित करते हैं, जो संवादी एआई को शक्ति प्रदान करते हैं। इन मॉडलों को विशाल डेटासेट पर प्रशिक्षित किया जाता है, जिससे वे मानव-जैसा पाठ उत्पन्न करने और जटिल संवादों में संलग्न होने में सक्षम होते हैं। जबकि यह तकनीक ग्राहक सेवा और शिक्षा जैसे क्षेत्रों में लाभ प्रदान करती है, अगर इसे ठीक से प्रबंधित नहीं किया जाता है तो यह जोखिम भी प्रस्तुत करती है। चीनी सरकार का यह कदम इन जोखिमों को कम करने के लिए एक सक्रिय दृष्टिकोण को दर्शाता है।

मसौदा नियम वर्तमान में समीक्षाधीन हैं और सार्वजनिक टिप्पणी के लिए खुले हैं। साइबरस्पेस प्रशासन नियमों को अंतिम रूप देने और लागू करने से पहले प्रतिक्रिया पर विचार करेगा। इस विकास को एआई डेवलपर्स, नैतिकतावादियों और नीति निर्माताओं द्वारा दुनिया भर में बारीकी से देखा जा रहा है, क्योंकि यह एक मिसाल कायम कर सकता है कि अन्य देश मानव जैसी विशेषताओं वाले एआई के विनियमन के लिए कैसे संपर्क करते हैं।