एलोन मस्क का AI टूल ग्रो​क अब वास्तविक लोगों की तस्वीरों को ऐसे भड़काऊ कपड़ों में चित्रित करने के लिए संपादित नहीं कर पाएगा, जो उन न्यायालयों में अवैध हैं जहां इस तरह के बदलाव अवैध हैं। मस्क के स्वामित्व वाले सोशल मीडिया प्लेटफॉर्म X पर की गई यह घोषणा, यौन रूप से उत्तेजित करने वाले AI डीपफेक की संभावना के बारे में व्यापक चिंता के बाद आई है।

X ने कहा है कि उसने "ग्रो​क खाते को वास्तविक लोगों की छवियों को भड़काऊ कपड़ों में संपादित करने की अनुमति देने से रोकने के लिए तकनीकी उपाय लागू किए हैं।" यह कदम AI टूल के संभावित दुरुपयोग को लेकर आलोचना और नियामक जांच के बाद आया है।

ब्रिटेन सरकार ने इस बदलाव पर प्रतिक्रिया देते हुए इसे X द्वारा ग्रो​क को नियंत्रित करने की अपनी मांग का "समर्थन" बताया। यूके के संचार नियामक, ऑफकॉम ने इस विकास को "स्वागत योग्य" बताया, लेकिन जोर दिया कि X द्वारा यूके के कानूनों का उल्लंघन किया गया है या नहीं, इसकी जांच "अभी भी जारी है।" ऑफकॉम ने कहा, "हम इस पर तेजी से काम कर रहे हैं और यह पता लगाने की कोशिश कर रहे हैं कि क्या गलत हुआ और इसे ठीक करने के लिए क्या किया जा रहा है।"

प्रौद्योगिकी सचिव लिज़ केंडल ने भी इस बदलाव को स्वीकार किया, लेकिन कहा कि वह "ऑफकॉम की चल रही जांच द्वारा तथ्यों को पूरी तरह से और मजबूती से स्थापित करने की उम्मीद करेंगी।"

2023 में लॉन्च किया गया ग्रो​क, X प्लेटफॉर्म में एकीकृत एक AI टूल है। इसकी क्षमताओं में छवि संपादन शामिल है, जिससे दुरुपयोग की संभावना के बारे में चिंताएं बढ़ रही हैं, खासकर गैर-सहमति वाले डीपफेक बनाने में। लागू किए गए तकनीकी उपायों का उद्देश्य AI को ऐसी छवियां उत्पन्न करने से रोकना है जो वास्तविक व्यक्तियों को उनकी सहमति के बिना यौन रूप से स्पष्ट या भड़काऊ संदर्भों में दर्शाती हैं।

अभियानकर्ताओं और पीड़ितों का तर्क है कि यह बदलाव बहुत पहले हो जाना चाहिए था और इससे पहले से हुए नुकसान को कम नहीं किया जा सकता है। पत्रकार और अभियानकर्ता जेस डेविस AI-जनित दुर्व्यवहार के खिलाफ मजबूत सुरक्षा उपायों की आवश्यकता के बारे में मुखर रही हैं।

X द्वारा ग्रो​क को ऐसी छवियां बनाने से रोकने के लिए लागू किए गए विशिष्ट तकनीकी उपायों का घोषणा में विवरण नहीं दिया गया था। हालांकि, ऐसे उपायों में आमतौर पर सामग्री फ़िल्टरिंग, छवि पहचान एल्गोरिदम और AI द्वारा संसाधित किए जा सकने वाले संकेतों के प्रकार पर प्रतिबंधों का संयोजन शामिल होता है। ये फ़िल्टर उन अनुरोधों का पता लगाने और ब्लॉक करने के लिए डिज़ाइन किए गए हैं जो अनुचित या हानिकारक सामग्री के निर्माण का कारण बन सकते हैं।

यह घटना AI-संचालित उपकरणों से जुड़ी बढ़ती चुनौतियों और नैतिक विचारों पर प्रकाश डालती है, खासकर छवि हेरफेर और डीपफेक तकनीक के क्षेत्र में। जैसे-जैसे AI तकनीक आगे बढ़ रही है, डेवलपर्स और प्लेटफॉर्म पर दुरुपयोग को रोकने और व्यक्तियों को नुकसान से बचाने के लिए सुरक्षा उपाय लागू करने का दबाव बढ़ रहा है। ऑफकॉम द्वारा चल रही जांच नियामक हस्तक्षेप की संभावना और AI-जनित सामग्री के संबंध में स्थानीय कानूनों और विनियमों का पालन करने के लिए प्लेटफॉर्म की आवश्यकता को रेखांकित करती है।