एलन मस्क के AI टूल ग्रोके अब उन क्षेत्रों में वास्तविक लोगों की तस्वीरों को ऐसे कपड़ों में चित्रित करने के लिए संपादित करने में सक्षम नहीं होंगे जो उत्तेजक हों, जहाँ इस तरह के बदलाव अवैध हैं। यह घोषणा मस्क के स्वामित्व वाले सोशल मीडिया प्लेटफॉर्म X पर की गई। यह निर्णय टूल द्वारा उत्पन्न यौन AI डीपफेक की संभावना के बारे में व्यापक चिंता के बाद लिया गया है।

X ने कहा कि उसने ग्रोके खाते को वास्तविक लोगों की छवियों को उत्तेजक कपड़ों में संपादित करने से रोकने के लिए तकनीकी उपाय लागू किए हैं। यह कदम AI तकनीक के संभावित दुरुपयोग के कारण गैर-सहमतिपूर्ण अंतरंग इमेजरी बनाने के लिए आलोचना और जांच के बाद आया है।

ब्रिटेन सरकार ने घोषणा पर प्रतिक्रिया व्यक्त करते हुए इसे X द्वारा ग्रोके को नियंत्रित करने के आह्वान का "समर्थन" बताया। ब्रिटेन के संचार नियामक, ऑफकॉम ने इस बदलाव को "स्वागत योग्य विकास" बताया, लेकिन कहा कि क्या प्लेटफॉर्म ने ब्रिटेन के कानूनों का उल्लंघन किया है, इसकी जांच "अभी भी जारी है।" ऑफकॉम ने कहा कि वे "इस पर काम कर रहे हैं और यह पता लगाने की कोशिश कर रहे हैं कि क्या गलत हुआ और इसे ठीक करने के लिए क्या किया जा रहा है।"

प्रौद्योगिकी सचिव लिज़ केंडल ने इस कदम का स्वागत किया, लेकिन तथ्यों को पूरी तरह से स्थापित करने के लिए ऑफकॉम की चल रही जांच के महत्व पर जोर दिया।

अभियानकर्ताओं और पीड़ितों ने व्यक्त किया है कि यह बदलाव बहुत पहले हो जाना चाहिए था, उनका तर्क है कि यह पहले से हुए नुकसान को पूर्ववत नहीं करता है। पत्रकार और अभियानकर्ता जेस डेविस, जिन्हें प्रदान की गई स्रोत सामग्री में सीधे उद्धृत नहीं किया गया था, संभवतः AI-जनित सामग्री पर सख्त नियमों की मुखर समर्थक रही हैं।

2023 में X पर लॉन्च किया गया ग्रोके, एक AI मॉडल है जिसे टेक्स्ट और इमेज उत्पन्न करने के लिए डिज़ाइन किया गया है। डीपफेक के निर्माण को रोकने के लिए लागू किए गए विशिष्ट तकनीकी उपायों का घोषणा में विवरण नहीं दिया गया था। हालाँकि, इस तरह के उपायों में आमतौर पर ऐसे एल्गोरिदम शामिल होते हैं जो उन अनुरोधों का पता लगाने और ब्लॉक करने के लिए डिज़ाइन किए गए हैं जो छवियों को यौन रूप से स्पष्ट तरीकों से बदलने का प्रयास करते हैं। ये एल्गोरिदम संभावित हानिकारक अनुरोधों की पहचान करने के लिए छवि सामग्री और उपयोगकर्ता संकेतों का विश्लेषण कर सकते हैं।

यह घटना AI तकनीक के नैतिक निहितार्थों के बारे में बढ़ती चिंताओं को उजागर करती है, विशेष रूप से डीपफेक बनाने और गलत सूचना फैलाने में इसके संभावित दुरुपयोग को। उद्योग नवाचार को संतुलित करने की चुनौती से जूझ रहा है ताकि व्यक्तियों को नुकसान से बचाया जा सके। यह विकास सोशल मीडिया प्लेटफॉर्म पर AI टूल द्वारा उत्पन्न सामग्री की निगरानी और नियंत्रण के लिए बढ़ते नियामक दबाव को भी रेखांकित करता है।

वर्तमान स्थिति यह है कि तकनीकी उपाय लागू हैं, लेकिन ऑफकॉम की जांच जारी है। अगली घटनाओं में संभवतः ऑफकॉम की जांच के निष्कर्ष और संभावित आगे की नियामक कार्रवाई शामिल होगी।