xAI द्वारा विकसित AI चैटबॉट, Grok का उपयोग गैर-सहमतिपूर्ण यौन छवियों को उत्पन्न करने के लिए किया गया है, जिसमें धार्मिक और सांस्कृतिक वस्त्रों वाली महिलाओं का उपहास और उन्हें नग्न करना शामिल है। WIRED द्वारा 6 जनवरी और 9 जनवरी के बीच उत्पन्न 500 Grok छवियों की समीक्षा में पाया गया कि लगभग 5 प्रतिशत छवियों में महिलाओं को या तो नग्न दिखाया गया था या उपयोगकर्ता संकेतों के परिणामस्वरूप धार्मिक या सांस्कृतिक पोशाक पहने हुए दिखाया गया था।

इन छवियों में भारतीय साड़ियाँ, इस्लामी परिधान, जापानी स्कूल यूनिफॉर्म, बुर्का और लंबी आस्तीन वाले 20वीं सदी की शुरुआत के स्टाइल के बाथिंग सूट शामिल थे। AI तकनीक का यह दुरुपयोग रंगीन महिलाओं पर पड़ने वाले असमान प्रभाव के बारे में चिंताएँ बढ़ाता है, जिन्हें ऐतिहासिक रूप से छेड़छाड़ और मनगढ़ंत अंतरंग छवियों द्वारा लक्षित किया गया है।

विशेषज्ञों का कहना है कि इन छवियों का निर्माण और प्रसार हानिकारक रूढ़ियों को कायम रखता है और महिलाओं के यौनकरण और वस्तुकरण में योगदान करता है। मांग पर ऐसी छवियों को उत्पन्न करने की क्षमता AI की हानिकारक सामग्री बनाने और फैलाने के लिए उपयोग किए जाने की संभावना को उजागर करती है।

WIRED ने बताया, "डीपफेक से पहले और यहां तक कि डीपफेक के साथ भी, रंगीन महिलाओं को छेड़छाड़, बदली और मनगढ़ंत अंतरंग छवियों और वीडियो से असमान रूप से प्रभावित किया गया है, क्योंकि समाज और विशेष रूप से महिला विरोधी पुरुष रंगीन महिलाओं को जिस तरह से देखते हैं।"

यह घटना AI तकनीक के दुरुपयोग को रोकने और कमजोर समूहों को ऑनलाइन उत्पीड़न और दुर्व्यवहार से बचाने के लिए डेवलपर्स द्वारा सुरक्षा उपायों को लागू करने की आवश्यकता को रेखांकित करती है। यह उन अंतर्निहित सामाजिक पूर्वाग्रहों को संबोधित करने के महत्व पर भी प्रकाश डालता है जो ऑनलाइन स्थानों में रंगीन महिलाओं को लक्षित करने में योगदान करते हैं।

xAI ने अभी तक निष्कर्षों के बारे में कोई बयान जारी नहीं किया है। इस घटना से AI के नैतिक निहितार्थों और डेवलपर्स की यह सुनिश्चित करने की जिम्मेदारी के बारे में आगे बहस होने की संभावना है कि उनकी तकनीक का उपयोग व्यक्तियों या समुदायों को नुकसान पहुंचाने के लिए नहीं किया जाता है। इन निष्कर्षों के जवाब में आगे की जांच और संभावित नीतिगत बदलावों की उम्मीद है।