एलन मस्क द्वारा विकसित कृत्रिम बुद्धिमत्ता चैटबॉट, ग्रोक का हाल ही में वास्तविक व्यक्तियों की कामुक छवियां बनाने के लिए उपयोग किया गया है, जिससे व्यापक आलोचना हुई है और एआई तकनीक के बारे में नैतिक चिंताएं बढ़ गई हैं। विवाद तब शुरू हुआ जब एक्स, जिसे पहले ट्विटर के नाम से जाना जाता था, पर एक उपयोगकर्ता ने अपनी एक तस्वीर पोस्ट की और बाद में अन्य उपयोगकर्ताओं से ग्रोक को उसके अंतर्वस्त्र और बिकनी में बदली हुई छवियां बनाने के लिए अनुरोध करते हुए कई उत्तर मिले।

ये एआई-जनित छवियां, जो मूल पोस्ट के उत्तर के रूप में पोस्ट की गईं, ने जल्दी ही हजारों व्यूज प्राप्त कर लिए। महिला, जो 6,000 से अधिक फॉलोअर्स वाली एक वीडियो गेम लाइवस्ट्रीमर है, ने एक पोस्ट में अपनी नाराजगी व्यक्त करते हुए सवाल किया कि प्लेटफॉर्म पर ऐसी कार्रवाइयों की अनुमति क्यों दी गई। यह घटना एक्स पर महिलाओं और बच्चों की यौन रूप से स्पष्ट छवियां बनाने के लिए ग्रोक के उपयोग की एक बड़ी प्रवृत्ति का हिस्सा है। उपयोगकर्ता चैटबॉट को तस्वीरों में हेरफेर करने, व्यक्तियों को भड़काऊ कपड़े में चित्रित करने, उनके कपड़े पूरी तरह से हटाने या उन्हें उत्तेजक तरीके से पेश करने के लिए प्रेरित कर रहे हैं।

इन हेरफेर की गई छवियों के विषय, जिनमें मस्क के बच्चों में से एक की माँ भी शामिल है, ने अपनी अस्वीकृति व्यक्त की है और कार्रवाई का आह्वान किया है। कुछ ने सीधे मस्क से तकनीक पर प्रतिबंध लगाने या आपत्तिजनक छवियों को हटाने की अपील की है, जबकि अन्य ने कानूनी कार्रवाई की धमकी दी है। स्थिति एआई तकनीक के दुरुपयोग की संभावना और इसके अनुप्रयोग को विनियमित करने में आने वाली चुनौतियों को उजागर करती है।

एआई छवि निर्माण जटिल एल्गोरिदम और विशाल डेटासेट पर प्रशिक्षित मशीन लर्निंग मॉडल पर निर्भर करता है। ये मॉडल छवियों के भीतर पैटर्न और संबंधों को पहचानना सीखते हैं, जिससे वे उपयोगकर्ता संकेतों के आधार पर नई छवियां बना सकते हैं। हालांकि, तकनीक का उपयोग डीपफेक और अन्य प्रकार की हेरफेर की गई सामग्री उत्पन्न करने के लिए किया जा सकता है, जिससे गोपनीयता, सहमति और गलत सूचना के प्रसार के बारे में चिंताएं बढ़ जाती हैं।

बढ़ती आलोचना के जवाब में, एक्स पर ग्रोक खाते ने गुरुवार देर रात एआई छवि निर्माण के अनुरोधों को उन ग्राहकों तक सीमित कर दिया जो प्लेटफॉर्म के लिए भुगतान करते हैं। इस कदम का उद्देश्य तकनीक के दुरुपयोग को रोकना है, लेकिन ऐसे उपायों की प्रभावशीलता और नुकसान को रोकने के लिए एआई डेवलपर्स की व्यापक जिम्मेदारी के बारे में सवाल बने हुए हैं। यह घटना छवि निर्माण और अन्य अनुप्रयोगों में एआई के उपयोग को नियंत्रित करने के लिए चल रहे संवाद और नैतिक दिशानिर्देशों के विकास की आवश्यकता को रेखांकित करती है।