ओफ़कॉम ने ग्रोक एआई के यौन डीपफेक संबंधी चिंताओं को लेकर एक्स की जाँच शुरू की

लंदन - यूके के संचार नियामक ओफ़कॉम ने एलन मस्क के सोशल मीडिया प्लेटफ़ॉर्म एक्स (पूर्व में ट्विटर) की जाँच शुरू कर दी है, क्योंकि ऐसी चिंताएँ हैं कि इसकी कृत्रिम बुद्धिमत्ता उपकरण, ग्रोक का उपयोग यौन छवियों को बनाने के लिए किया जा रहा है। ओफ़कॉम द्वारा जारी एक बयान के अनुसार, यह जाँच चैटबॉट का उपयोग व्यक्तियों की निर्वस्त्र छवियों, साथ ही "बच्चों की यौन छवियों" को बनाने और साझा करने की "गहरी चिंताजनक रिपोर्टों" के कारण शुरू की गई थी।

नियामक की जाँच इस बात पर केंद्रित होगी कि क्या एक्स ने ऐसी सामग्री के निर्माण और वितरण से संबंधित प्रासंगिक कानूनों और विनियमों का उल्लंघन किया है। यदि एक्स को कानून का उल्लंघन करते हुए पाया जाता है, तो ओफ़कॉम के पास उसके विश्वव्यापी राजस्व का 10% या 18 मिलियन पाउंड तक का जुर्माना लगाने का अधिकार है, जो भी अधिक हो।

जाँच के जवाब में, एक्स ने जनवरी की शुरुआत में अपने सुरक्षा खाते द्वारा पोस्ट किए गए एक बयान का हवाला दिया। बयान में कहा गया है, "कोई भी व्यक्ति जो ग्रोक का उपयोग अवैध सामग्री बनाने या प्रेरित करने के लिए कर रहा है, [होगा]।" स्रोत सामग्री में पूरा बयान उपलब्ध नहीं था।

जाँच जारी है, और ओफ़कॉम ने इसे पूरा करने के लिए कोई विशिष्ट समय-सीमा प्रदान नहीं की है। जाँच के परिणाम एक्स और एआई उपकरणों का उपयोग करने वाले अन्य प्लेटफ़ॉर्मों के लिए महत्वपूर्ण निहितार्थ हो सकते हैं, जिससे संभावित रूप से सख्त नियम और इन प्रौद्योगिकियों द्वारा उत्पन्न सामग्री के लिए अधिक जवाबदेही हो सकती है।