डोरडैश ने इस बात की पुष्टि की है कि उसने एक ड्राइवर को प्रतिबंधित कर दिया है, जिस पर वायरल सोशल मीडिया पोस्ट के बाद, डिलीवरी पूरी होने का झूठा दावा करने के लिए एआई-जनित छवि का उपयोग करने का संदेह है। ऑस्टिन निवासी बायरन होबार्ट ने एक्स (पूर्व में ट्विटर) पर इस घटना की सूचना दी, जिसमें कहा गया कि ड्राइवर ने ऑर्डर स्वीकार किया, तुरंत उसे डिलीवर के रूप में चिह्नित किया, और उनके सामने के दरवाजे पर डोरडैश ऑर्डर की एक एआई-जनित छवि प्रस्तुत की।

होबार्ट की पोस्ट को काफी लोगों ने पसंद किया, एक अन्य उपयोगकर्ता ने दावा किया कि उसे भी ऑस्टिन में उसी ड्राइवर के प्रदर्शन नाम के साथ इसी तरह की घटना का अनुभव हुआ। होबार्ट ने एक्स पर छवि साझा करते हुए लिखा, "अद्भुत।" "डोरडैश ड्राइवर ने ड्राइव स्वीकार की, तुरंत उसे डिलीवर के रूप में चिह्नित किया, और हमारे सामने के दरवाजे पर डोरडैश ऑर्डर (बाएं) की एक एआई-जनित छवि (दाएं) प्रस्तुत की।"

डोरडैश के एक प्रवक्ता ने टेकक्रंच को बताया कि कंपनी ने मामले की जांच की और ड्राइवर के खाते को निष्क्रिय कर दिया।

होबार्ट ने अनुमान लगाया कि ड्राइवर ने जेलब्रोकन फोन पर एक हैक किए गए खाते का उपयोग किया होगा, संभावित रूप से डोरडैश सुविधा के माध्यम से पिछली डिलीवरी से अपने सामने के दरवाजे की छवियों तक पहुंच प्राप्त की होगी। इससे उपयोगकर्ता डेटा की सुरक्षा और डिलीवरी प्लेटफ़ॉर्म सुविधाओं के दुरुपयोग की संभावना के बारे में चिंताएँ बढ़ जाती हैं।

यह घटना एआई की बढ़ती परिष्कार और धोखाधड़ी वाली गतिविधियों के लिए इसकी क्षमता पर प्रकाश डालती है। जेनरेटिव एआई मॉडल अब यथार्थवादी छवियां बना सकते हैं, जिससे वास्तविक और नकली सामग्री के बीच अंतर करना मुश्किल हो जाता है। इससे डिलीवरी पुष्टिकरण जैसी सेवाओं के लिए दृश्य सत्यापन पर निर्भर रहने वाली कंपनियों के लिए चुनौतियां खड़ी हो जाती हैं।

विशेषज्ञों का कहना है कि एआई-जनित छवियों का पता लगाने के लिए मेटाडेटा का विश्लेषण करने, छवि कलाकृतियों की जांच करने और एआई-संचालित पहचान उपकरणों को नियोजित करने सहित उन्नत तकनीकों की आवश्यकता होती है। हालांकि, ये तरीके अचूक नहीं हैं, और धोखेबाज लगातार पहचान से बचने के नए तरीके विकसित कर रहे हैं।

यह घटना एआई-जनित सामग्री के व्यापक सामाजिक निहितार्थों को भी रेखांकित करती है। जैसे-जैसे एआई तकनीक आगे बढ़ रही है, घोटालों, दुष्प्रचार अभियानों और अन्य दुर्भावनापूर्ण गतिविधियों में इसके दुरुपयोग को रोकने के लिए मजबूत सुरक्षा उपायों को विकसित करना तेजी से महत्वपूर्ण होता जा रहा है। कंपनियों और व्यक्तियों को सतर्क रहना चाहिए और डिजिटल सामग्री की प्रामाणिकता को सत्यापित करने के लिए रणनीतियों को अपनाना चाहिए।

डोरडैश ने अपनी जांच या समान घटनाओं को रोकने के लिए उठाए जा रहे विशिष्ट उपायों के बारे में कोई और जानकारी जारी नहीं की है। इस घटना पर कंपनी की प्रतिक्रिया संभवतः इस बात के लिए एक मिसाल कायम करेगी कि डिलीवरी प्लेटफ़ॉर्म एआई से संबंधित धोखाधड़ी के बढ़ते खतरे को कैसे संबोधित करते हैं।