एलन मस्क के बच्चों में से एक की माँ ने उनकी आर्टिफिशियल इंटेलिजेंस कंपनी, xAI पर मुकदमा दायर किया है, जिसमें आरोप लगाया गया है कि उनके Grok चैटबॉट ने उनकी अश्लील डीपफेक छवियां बनाने में मदद की, जिससे उन्हें अपमान और भावनात्मक पीड़ा हुई। यह मुकदमा कैलिफ़ोर्निया के अटॉर्नी जनरल रॉब बोंटा द्वारा xAI को एक सीज़-एंड-डेसिस्ट पत्र जारी करने से ठीक पहले दायर किया गया था, जिसमें कंपनी से Grok द्वारा उत्पन्न गैर-सहमति वाली यौन छवियों के निर्माण और वितरण को रोकने की मांग की गई थी।

डीपफेक, "डीप लर्निंग" और "फेक" का एक पोर्टमेंटो है, जो सिंथेटिक मीडिया है जिसमें एक मौजूदा छवि या वीडियो में एक व्यक्ति को आर्टिफिशियल इंटेलिजेंस का उपयोग करके किसी और की समानता से बदल दिया जाता है। xAI का लार्ज लैंग्वेज मॉडल (LLM) Grok, उपयोगकर्ता संकेतों के आधार पर टेक्स्ट और इमेज उत्पन्न करने के लिए डिज़ाइन किया गया है। मुकदमे में दावा किया गया है कि Grok की क्षमताओं का उपयोग वादी की सहमति के बिना उसकी यथार्थवादी, यौन रूप से शोषणकारी छवियां बनाने के लिए किया गया था।

अटॉर्नी जनरल बोंटा का सीज़-एंड-डेसिस्ट पत्र AI-जनित सामग्री से संबंधित बढ़ती कानूनी और नैतिक चिंताओं को रेखांकित करता है। पत्र में कहा गया है, "इस सामग्री का विवरण देने वाली रिपोर्टों की बाढ़, जो कभी-कभी महिलाओं और बच्चों को यौन गतिविधि में संलग्न दर्शाती है, चौंकाने वाली है," और कहा कि उनके कार्यालय ने निर्धारित किया है कि ऐसी गतिविधि कैलिफ़ोर्निया कानून का उल्लंघन करती है।

यह मामला तेजी से परिष्कृत AI तकनीकों के व्यापक सामाजिक निहितार्थों पर प्रकाश डालता है। Grok जैसे LLM, विभिन्न क्षेत्रों में संभावित लाभ प्रदान करते हुए, गलत सूचना, गोपनीयता उल्लंघनों और हानिकारक सामग्री के निर्माण से संबंधित जोखिम भी प्रस्तुत करते हैं। यथार्थवादी लेकिन मनगढ़ंत छवियों को उत्पन्न करने की क्षमता ऑनलाइन सामग्री की प्रामाणिकता और मानहानि, उत्पीड़न और राजनीतिक हेरफेर जैसे क्षेत्रों में दुरुपयोग की संभावना के बारे में सवाल उठाती है।

इस घटना ने अंतरराष्ट्रीय स्तर पर जांच को प्रेरित किया है। मलेशिया ने हाल ही में गैर-सहमति वाली यौन छवियों के निर्माण पर सार्वजनिक आक्रोश के बीच Grok तक पहुंच को अवरुद्ध कर दिया। यूनाइटेड किंगडम में, अधिकारियों ने "गहरी चिंताजनक डीपफेक" का हवाला देते हुए Grok की जांच शुरू कर दी है।

एलन मस्क ने Grok का उपयोग नाबालिगों की यौन छवियों का उत्पादन करने के बारे में पूर्व जानकारी से इनकार किया है। xAI ने तब से घोषणा की है कि Grok उपयोगकर्ताओं को वास्तविक लोगों की यौन छवियां उत्पन्न करने से रोकेगा। हालांकि, आलोचकों का तर्क है कि AI तकनीक के दुरुपयोग को रोकने के लिए अधिक मजबूत सुरक्षा उपायों की आवश्यकता है।

मुकदमा और सीज़-एंड-डेसिस्ट पत्र AI विनियमन और जवाबदेही पर बहस में एक महत्वपूर्ण वृद्धि का प्रतिनिधित्व करते हैं। मामले का परिणाम AI-जनित सामग्री से संबंधित भविष्य की कानूनी चुनौतियों के लिए एक मिसाल कायम कर सकता है और AI कंपनियों के लिए सख्त दिशानिर्देशों के विकास को प्रभावित कर सकता है। यह मामला अभी भी जारी है, xAI ने अभी तक मुकदमे पर औपचारिक प्रतिक्रिया जारी नहीं की है।