डीपफेक की चिंताओं के बीच X ने ग्रोकी की इमेज एडिटिंग पर लगाई लगाम

X पर एक घोषणा के अनुसार, एलन मस्क का AI टूल ग्रोकी अब वास्तविक लोगों की तस्वीरों को ऐसे भड़काऊ कपड़ों में चित्रित करने के लिए संपादित नहीं कर पाएगा, जहां इस तरह के बदलाव अवैध हैं। यह निर्णय प्लेटफ़ॉर्म द्वारा उत्पन्न यौन रूप से उत्तेजित AI डीपफेक की संभावना के बारे में व्यापक चिंता के बाद लिया गया है।

एलन मस्क के स्वामित्व वाले सोशल मीडिया प्लेटफ़ॉर्म X ने कहा कि उसने ग्रोकी खाते को वास्तविक लोगों की छवियों को भड़काऊ कपड़ों में संपादित करने की अनुमति देने से रोकने के लिए तकनीकी उपाय लागू किए हैं। कंपनी ने 2023 में ग्रोकी लॉन्च किया था।

ब्रिटेन सरकार ने इस बदलाव पर प्रतिक्रिया व्यक्त करते हुए इसे X द्वारा ग्रोकी को नियंत्रित करने के आह्वान का "समर्थन" बताया। ब्रिटेन के संचार नियामक, ऑफ़कॉम ने इस कदम को "स्वागत योग्य विकास" बताया, लेकिन जोर दिया कि प्लेटफ़ॉर्म ने यूके के कानूनों का उल्लंघन किया है या नहीं, इसकी जांच "अभी भी जारी है"। ऑफ़कॉम ने कहा कि वह जांच को आगे बढ़ाने और यह निर्धारित करने के लिए काम कर रहा है कि क्या गलत हुआ और इसे ठीक करने के लिए क्या किया जा रहा है।

प्रौद्योगिकी सचिव लिज़ केंडल ने इस कदम का स्वागत किया, लेकिन कहा कि वह "उम्मीद करेंगी कि ऑफ़कॉम की चल रही जांच द्वारा तथ्यों को पूरी तरह से और मजबूती से स्थापित किया जाएगा।"

अभियानकर्ताओं और पीड़ितों का तर्क है कि प्रौद्योगिकी के कारण पहले से हुए नुकसान को पूर्ववत करने के लिए यह बदलाव बहुत देर से किया गया है। पत्रकार और अभियानकर्ता जेस डेविस उन लोगों में शामिल हैं जिन्होंने चिंता व्यक्त की है।

ग्रोकी के पीछे की तकनीक, कई AI इमेज एडिटिंग टूल की तरह, छवियों के विशाल डेटासेट पर प्रशिक्षित डीप लर्निंग मॉडल का उपयोग करती है। इन मॉडलों को मौजूदा छवियों को विभिन्न तरीकों से बदलने के लिए हेरफेर किया जा सकता है, जिसमें कपड़े जोड़ना या हटाना शामिल है। चिंता तब उत्पन्न होती है जब इन क्षमताओं का उपयोग गैर-सहमति वाले, यौन रूप से स्पष्ट चित्र बनाने के लिए किया जाता है, जिन्हें अक्सर डीपफेक कहा जाता है।

इस निर्णय का उद्योग पर प्रभाव अभी देखा जाना बाकी है। अन्य AI इमेज एडिटिंग प्लेटफ़ॉर्म को इसी तरह के सुरक्षा उपायों को लागू करने के लिए बढ़ी हुई जांच और दबाव का सामना करना पड़ सकता है। यह घटना तेजी से आगे बढ़ती AI तकनीक से जुड़ी नैतिक चुनौतियों और दुरुपयोग को रोकने के लिए सक्रिय उपायों की आवश्यकता पर प्रकाश डालती है।