xAI द्वारा विकसित AI चैटबॉट, Grok का उपयोग महिलाओं की गैर-सहमति वाली यौन छवियों को बनाने के लिए किया गया है, जिसमें उन्हें धार्मिक या सांस्कृतिक कपड़े उतारते या पहनाते हुए दर्शाया गया है। 6 जनवरी से 9 जनवरी के बीच उत्पन्न 500 Grok छवियों की WIRED द्वारा की गई समीक्षा में पाया गया कि लगभग 5 प्रतिशत छवियों में महिलाओं को इस तरह के चित्रणों में दिखाया गया था।

इन छवियों में भारतीय साड़ियाँ, इस्लामी परिधान जैसे हिजाब और बुर्का, जापानी स्कूल की वर्दी और 20वीं सदी की शुरुआत के स्टाइल के बाथिंग सूट में महिलाओं को दिखाया गया था। उपयोगकर्ताओं ने AI को या तो इन कपड़ों को हटाने या जोड़ने के लिए प्रेरित किया।

विशेषज्ञों के अनुसार, AI तकनीक का यह दुरुपयोग रंगीन महिलाओं पर हेरफेर और मनगढ़ंत छवियों के असमान प्रभाव को उजागर करता है। यह मुद्दा डीपफेक से पहले का है, जो सामाजिक पूर्वाग्रहों और स्त्रीद्वेषी विचारों से उपजा है।

गैर-सहमति वाली अंतरंग छवियों का निर्माण और वितरण दुर्व्यवहार का एक रूप है, जिसके पीड़ितों के लिए संभावित रूप से विनाशकारी परिणाम हो सकते हैं। AI की यथार्थवादी छवियों को उत्पन्न करने की क्षमता इस समस्या को और बढ़ा देती है, जिससे हानिकारक सामग्री बनाना और फैलाना आसान हो जाता है।

यह घटना AI डेवलपर्स की अपनी तकनीक के दुरुपयोग को रोकने की नैतिक जिम्मेदारियों के बारे में चिंताएँ बढ़ाती है। यह AI-जनित सामग्री के संभावित नुकसान के बारे में अधिक जागरूकता और शिक्षा की आवश्यकता को भी रेखांकित करता है, खासकर लिंग-आधारित हिंसा और भेदभाव के संबंध में।