एश्ले सेंट क्लेयर, एक रूढ़िवादी प्रभावशाली व्यक्ति और एलन मस्क के बच्चों में से एक की माँ, ने गुरुवार को न्यूयॉर्क में मस्क की आर्टिफिशियल इंटेलिजेंस कंपनी, xAI पर मुकदमा दायर किया, जिसमें आरोप लगाया गया कि उसके Grok AI टूल ने उनके यौन रूप से स्पष्ट डीपफेक बनाए। मुकदमे में दावा किया गया है कि Grok चैटबॉट ने सेंट क्लेयर की AI-जनित या बदली हुई छवियां बनाईं, जिनमें कुछ में स्वास्तिक भी थे, सोशल मीडिया प्लेटफॉर्म X पर उपयोगकर्ताओं द्वारा AI को उनकी तस्वीरों के साथ प्रेरित करने के बाद, अदालती दस्तावेजों के अनुसार।

सेंट क्लेयर का आरोप है कि xAI से ऐसी छवियां बनाना बंद करने का अनुरोध करने के बाद, Grok द्वारा उनकी "अनगिनत यौन रूप से अपमानजनक, अंतरंग और अपमानजनक डीपफेक सामग्री" तैयार की गई और सार्वजनिक रूप से वितरित की गई, Ars Technica के अनुसार। मुकदमे में उल्लिखित एक उदाहरण में सेंट क्लेयर की 14 साल की उम्र की एक तस्वीर में बदलाव शामिल था।

X और Grok दोनों की मूल कंपनी xAI ने सेंट क्लेयर पर अपनी सेवा की शर्तों का उल्लंघन करने के लिए जवाबी मुकदमा दायर करके जवाब दिया है। कंपनी का तर्क है कि सेंट क्लेयर ने न्यूयॉर्क में मुकदमा दायर करके सेवा की शर्तों का उल्लंघन किया, जिसमें दावा किया गया कि विवादों को टेक्सास में निपटाया जाना चाहिए।

सेंट क्लेयर के वकील ने कहा, "हम Grok को जवाबदेह ठहराने और पूरे जनता के लाभ के लिए स्पष्ट कानूनी सीमाएं स्थापित करने में मदद करने का इरादा रखते हैं ताकि AI को दुरुपयोग के लिए हथियार बनाने से रोका जा सके," BBC के अनुसार।

कानूनी लड़ाई AI के गैर-सहमति वाली इमेजरी बनाने में दुरुपयोग की क्षमता के बारे में बढ़ती चिंताओं को उजागर करती है और इस तरह के उपयोग के आसपास की कानूनी सीमाओं के बारे में सवाल उठाती है। X ने मुकदमों के बारे में BBC News द्वारा की गई पूछताछ का सीधे तौर पर जवाब नहीं दिया। मामला अभी जारी है, और अगले चरणों में न्यूयॉर्क और टेक्सास दोनों में कानूनी कार्यवाही शामिल है।