xAI ने Grok Business और Grok Enterprise लॉन्च किए हैं, जो उसके AI सहायक के नए स्तर हैं, जिन्हें संगठनात्मक उपयोग के लिए डिज़ाइन किया गया है। यह लॉन्च प्लेटफ़ॉर्म के सार्वजनिक रूप से उपलब्ध संस्करण का उपयोग करके गैर-सहमति वाले डीपफेक उत्पन्न करने से संबंधित चल रहे विवाद के बीच हुआ है। नए एंटरप्राइज़ ऑफ़र xAI के उन्नत AI मॉडल, जिनमें Grok 3, Grok 4 और Grok 4 Heavy शामिल हैं, तक स्केलेबल एक्सेस प्रदान करते हैं, जिनके बारे में कंपनी का दावा है कि वे उच्च प्रदर्शन वाले और लागत प्रभावी दोनों हैं।

Grok Business, जिसकी कीमत $30 प्रति सीट प्रति माह है, का उद्देश्य टीमों को Grok की क्षमताओं तक सुरक्षित एक्सेस प्रदान करना है, जबकि Grok Enterprise उन्नत प्रशासनिक नियंत्रण, गोपनीयता गारंटी और Enterprise Vault नामक एक प्रीमियम आइसोलेशन लेयर प्रदान करता है। xAI के अनुसार, इन सुविधाओं को बड़े संगठनों की सख्त सुरक्षा और अनुपालन आवश्यकताओं को पूरा करने के लिए डिज़ाइन किया गया है।

हालांकि, लॉन्च Grok के सार्वजनिक रूप से उपलब्ध संस्करण के बारे में आलोचनाओं से घिरा हुआ है, जिस पर गैर-सहमति वाली, AI-जनित छवि हेरफेर बनाने और प्रसारित करने का आरोप लगाया गया है, खासकर महिलाओं, प्रभावशाली व्यक्तियों और नाबालिगों के मामलों में। इसके कारण सार्वजनिक प्रतिक्रिया, नियामक जांच और xAI की पर्याप्त सुरक्षा उपायों को लागू करने की क्षमता पर सवाल उठे हैं।

यह विवाद जेनरेटिव AI से जुड़ी जटिल नैतिक चुनौतियों को उजागर करता है। डीपफेक, या AI का उपयोग करके बनाए गए सिंथेटिक मीडिया, का उपयोग गलत सूचना फैलाने, प्रतिष्ठा को नुकसान पहुंचाने और यहां तक कि बिना उनकी सहमति के चित्रित व्यक्तियों को भावनात्मक संकट पहुंचाने के लिए किया जा सकता है। यह घटना हानिकारक डीपफेक के निर्माण और वितरण का पता लगाने और रोकने के लिए मजबूत सामग्री मॉडरेशन नीतियों और तकनीकी समाधानों की आवश्यकता को रेखांकित करती है।

वेंचरबीट में कार्ल फ्रांज़ेन ने लिखा, "यह एक और टाली जा सकने वाली कंट्रोवर्सी के बिना एक नया xAI लॉन्च नहीं होगा, जो उद्यमों के लिए शक्तिशाली और संभावित रूप से सहायक नई सुविधाओं से ध्यान भटकाता है।"

यह स्थिति AI डेवलपर्स की अपनी तकनीकों के संभावित दुरुपयोग का अनुमान लगाने और उसे कम करने की जिम्मेदारी के बारे में व्यापक प्रश्न भी उठाती है। जैसे-जैसे AI मॉडल अधिक शक्तिशाली और सुलभ होते जाते हैं, दुर्भावनापूर्ण अनुप्रयोगों का जोखिम बढ़ता जाता है, जिसके लिए डेवलपर्स को सुरक्षा और नैतिक विचारों को प्राथमिकता देने की आवश्यकता होती है।

डीपफेक के आसपास का नियामक परिदृश्य अभी भी विकसित हो रहा है। कई क्षेत्राधिकार गैर-सहमति वाले सिंथेटिक मीडिया के निर्माण और वितरण को संबोधित करने के लिए कानून पर विचार कर रहे हैं या पहले ही लागू कर चुके हैं। ये कानून अक्सर दुर्भावनापूर्ण इरादे से डीपफेक बनाने या साझा करने के लिए व्यक्तियों को जवाबदेह ठहराने पर ध्यान केंद्रित करते हैं।

xAI ने अभी तक गैर-सहमति वाले डीपफेक से संबंधित विशिष्ट आरोपों को संबोधित करते हुए एक व्यापक बयान जारी नहीं किया है। विवाद के प्रति कंपनी की प्रतिक्रिया और मजबूत सुरक्षा उपायों को लागू करने के उसके प्रयासों की नियामकों, वकालत समूहों और जनता द्वारा बारीकी से निगरानी किए जाने की संभावना है। Grok Business और Grok Enterprise की भविष्य की सफलता xAI की विश्वास हासिल करने और जिम्मेदार AI विकास के प्रति प्रतिबद्धता प्रदर्शित करने की क्षमता पर निर्भर हो सकती है।