कई अमेरिकी सीनेटर X, मेटा, अल्फाबेट, स्नैप, रेडिट और टिकटॉक सहित प्रमुख तकनीकी कंपनियों से उनके प्लेटफॉर्म पर यौनिकृत डीपफेक के प्रसार का मुकाबला करने के प्रयासों के बारे में जवाब मांग रहे हैं। इन कंपनियों के नेतृत्व को भेजे गए एक पत्र में, सीनेटरों ने AI-जनित यौन छवियों के उदय को रोकने के लिए डिज़ाइन किए गए मजबूत सुरक्षा और नीतियों के प्रमाण का अनुरोध किया।

सीनेटरों ने यह भी अनिवार्य किया कि कंपनियां यौनिकृत, AI-जनित छवियों के निर्माण, पहचान, मॉडरेशन और मुद्रीकरण से संबंधित सभी दस्तावेजों और सूचनाओं को, साथ ही किसी भी प्रासंगिक नीतियों को सुरक्षित रखें। यह अनुरोध उन रिपोर्टों के बाद आया है जिनमें इस बात पर प्रकाश डाला गया है कि X और xAI द्वारा विकसित Grok जैसे AI मॉडल कितनी आसानी से यौनिकृत और नग्न छवियां उत्पन्न कर सकते हैं, जिनमें महिलाओं और बच्चों को दर्शाने वाली छवियां भी शामिल हैं।

पत्र में इस चिंता को रेखांकित किया गया है कि गैर-सहमति वाली, यौनिकृत छवियों के खिलाफ मौजूदा प्लेटफ़ॉर्म सुरक्षा अपर्याप्त हो सकती है। सीनेटरों ने कहा, "हम मानते हैं कि कई कंपनियां गैर-सहमति वाली अंतरंग छवियों और यौन शोषण के खिलाफ नीतियां बनाए रखती हैं, और कई AI," यह दर्शाता है कि वर्तमान उपाय इस मुद्दे को पर्याप्त रूप से संबोधित नहीं कर रहे हैं।

जानकारी की मांग X द्वारा Grok में अपडेट की घोषणा के तुरंत बाद आई है, जिसमें AI को वास्तविक लोगों के संपादन को उत्तेजक कपड़ों में बनाने से प्रतिबंधित किया गया है। X ने Grok के माध्यम से छवि निर्माण और संपादन को भुगतान करने वाले ग्राहकों तक भी सीमित कर दिया। ये परिवर्तन मीडिया रिपोर्टों के जवाब में लागू किए गए थे जिसमें AI की स्पष्ट सामग्री उत्पन्न करने की क्षमता का विवरण दिया गया था।

डीपफेक, जो यथार्थवादी लेकिन मनगढ़ंत छवियों और वीडियो बनाने के लिए कृत्रिम बुद्धिमत्ता का उपयोग करते हैं, तकनीकी कंपनियों के लिए एक महत्वपूर्ण चुनौती पेश करते हैं। इस तकनीक का उपयोग गैर-सहमति वाली अंतरंग छवियों को उत्पन्न करने के लिए किया जा सकता है, जिससे ऑनलाइन उत्पीड़न और शोषण में योगदान होता है। सीनेटरों की जांच AI के इस तरह से दुरुपयोग होने की संभावना और इन जोखिमों को कम करने के लिए तकनीकी कंपनियों की जिम्मेदारी के बारे में बढ़ती चिंता को दर्शाती है।

सीनेटर यौनिकृत डीपफेक का पता लगाने और हटाने के लिए कंपनियों की रणनीतियों की विस्तृत व्याख्या के साथ-साथ इस बारे में जानकारी मांग रहे हैं कि वे इस तकनीक को ऐसी सामग्री बनाने और वितरित करने के लिए उपयोग करने से कैसे रोक रहे हैं। अनुरोधित दस्तावेज़ों से इस मुद्दे को संबोधित करने में शामिल तकनीकी चुनौतियों और नीतिगत विचारों में अंतर्दृष्टि मिलने की संभावना है। अगले चरणों में संभवतः कंपनियों द्वारा सीनेटरों की पूछताछ का जवाब देना और उनकी प्रतिक्रियाओं के आधार पर आगे की जांच का सामना करना शामिल होगा।