एक्स (X), जिसे पहले ट्विटर के नाम से जाना जाता था, ने घोषणा की है कि वह अपने ग्रोक (Grok) एआई मॉडल को उन न्यायालयों में वास्तविक लोगों की ऐसी तस्वीरें उत्पन्न करने से रोकेगा जिनमें उन्होंने कम कपड़े पहने हों, जहाँ यह गैरकानूनी है। कैलिफ़ोर्निया के शीर्ष अभियोजक द्वारा यह कहे जाने के कुछ घंटों बाद कि राज्य यौनिकृत एआई डीपफेक के प्रसार की जाँच कर रहा है, यह निर्णय एआई के दुरुपयोग से ऐसी तस्वीरें बनाने को लेकर व्यापक चिंता के बाद आया है।

एक्स (X) पर एक घोषणा के अनुसार, कंपनी ने "ग्रोक (Grok) खाते को वास्तविक लोगों की ऐसी तस्वीरों को संपादित करने की अनुमति देने से रोकने के लिए तकनीकी उपाय लागू किए हैं जिनमें उन्होंने कम कपड़े पहने हों, जैसे कि बिकनी।" यह प्रतिबंध ग्रोक (Grok) एआई टूल के सभी उपयोगकर्ताओं पर लागू होता है, जिनमें सशुल्क ग्राहक भी शामिल हैं।

इस कदम का उद्देश्य यौनिकृत एआई डीपफेक की बढ़ती समस्या और उनसे होने वाले संभावित नुकसान को दूर करना है। यह घोषणा तीन घंटे पहले सार्वजनिक की गई थी। एलन मस्क ने 2023 में ग्रोक (Grok) लॉन्च किया था।