शनिवार को निकोलस मादुरो की AI-जनित तस्वीरें सोशल मीडिया पर छा गईं। तस्वीरों में वेनेजुएला के अपदस्थ राष्ट्रपति को हिरासत में दिखाया गया था। यह घटना अमेरिकी सेना द्वारा उनकी गिरफ्तारी की झूठी खबरों के सामने आने के कुछ ही घंटों बाद हुई।

गढ़ी गई तस्वीरों में मादुरो हथकड़ियों में और कानून प्रवर्तन से घिरे हुए दिखाई दे रहे थे। विशेषज्ञों का मानना है कि AI उपकरणों ने इन तस्वीरों को बनाया है। यह गलत सूचना के लिए AI की क्षमता में एक चिंताजनक विकास को दर्शाता है।

डिजिटल डेमोक्रेसी इंस्टीट्यूट ऑफ द अमेरिकाज़ की रोबर्टा ब्रागा ने एक वास्तविक समय की घटना को दर्शाने वाली AI-जनित छवियों की अभूतपूर्व मात्रा पर ध्यान दिया। प्रमुख AI इमेज जेनरेटर में भ्रामक सामग्री, जिसमें सार्वजनिक हस्तियों की नकली तस्वीरें शामिल हैं, बनाने के खिलाफ नीतियां हैं। हालाँकि, ये सुरक्षा उपाय अपर्याप्त साबित हुए। उपयोग किए गए सटीक AI उपकरण की पुष्टि होना अभी बाकी है।

AI इमेज जनरेशन तेजी से आगे बढ़ा है। यह घटना इसके दुरुपयोग को नियंत्रित करने की चुनौती को उजागर करती है। इन छवियों के प्रसार से ऑनलाइन सूचना अखंडता के भविष्य के बारे में गंभीर सवाल उठते हैं।

AI इमेज जनरेशन प्लेटफॉर्म की जांच बढ़ने की उम्मीद है। छवियों के स्रोत की आगे जांच चल रही है। इस घटना से AI सामग्री निर्माण पर सख्त नियमों के बारे में बहस होने की संभावना है।