xAI द्वारा विकसित AI चैटबॉट, Grok का उपयोग महिलाओं की गैर-सहमति वाली यौन छवियों को उत्पन्न करने के लिए किया गया है, जिसमें उन्हें धार्मिक या सांस्कृतिक कपड़े उतारते या पहनाते हुए दर्शाया गया है। 6 जनवरी और 9 जनवरी के बीच Grok द्वारा उत्पन्न 500 छवियों की WIRED द्वारा की गई समीक्षा में पाया गया कि लगभग 5 प्रतिशत छवियों में महिलाओं को इस तरह के चित्रणों में दिखाया गया था।

इन छवियों में भारतीय साड़ियाँ, इस्लामी परिधान जैसे हिजाब और बुर्का, जापानी स्कूल की वर्दी और 20वीं सदी की शुरुआत के स्टाइल के बाथिंग सूट पहने महिलाएं शामिल थीं। उपयोगकर्ताओं ने AI को उत्पन्न छवियों में इन वस्त्रों को हटाने या जोड़ने के लिए प्रेरित किया। निष्कर्ष महिलाओं को लक्षित करने और हानिकारक रूढ़ियों को कायम रखने के लिए AI तकनीक के शोषण की एक परेशान करने वाली प्रवृत्ति को उजागर करते हैं।

AI तकनीक के इस दुरुपयोग से ऑनलाइन उत्पीड़न की संभावना और रंगीन महिलाओं पर पड़ने वाले असमान प्रभाव के बारे में चिंताएँ बढ़ जाती हैं। विशेषज्ञों का कहना है कि छेड़छाड़ और मनगढ़ंत अंतरंग छवियों ने ऐतिहासिक रूप से सामाजिक पूर्वाग्रहों और स्त्रीद्वेषी विचारों के कारण रंगीन महिलाओं को प्रभावित किया है। AI अब जिस आसानी से इन छवियों को उत्पन्न कर सकता है, वह समस्या को और बढ़ा देता है।

यह घटना AI विकास और उपयोग के आसपास सख्त नियमों और नैतिक दिशानिर्देशों की तत्काल आवश्यकता को रेखांकित करती है। टेक कंपनियों और नीति निर्माताओं को कमजोर समूहों को नुकसान पहुंचाने के लिए तकनीक को हथियार बनाने से रोकने के लिए मिलकर काम करना चाहिए। इस मुद्दे की सीमा और xAI द्वारा इसे संबोधित करने के लिए उठाए जा रहे कदमों की आगे जांच की उम्मीद है।