डोरडैश ने एक ड्राइवर को प्रतिबंधित करने की पुष्टि की है, जिस पर वायरल सोशल मीडिया पोस्ट के बाद, डिलीवरी पूरी होने का झूठा दावा करने के लिए एआई-जनित छवि का उपयोग करने का संदेह है। ऑस्टिन निवासी बायरन होबार्ट ने एक्स पर घटना की सूचना दी, जिसमें कहा गया कि ड्राइवर ने ऑर्डर स्वीकार किया, तुरंत इसे डिलीवर के रूप में चिह्नित किया, और अपने सामने के दरवाजे पर डोरडैश ऑर्डर की एआई-जनित छवि प्रस्तुत की।

होबार्ट की पोस्ट को लोकप्रियता मिली, एक अन्य उपयोगकर्ता ने ऑस्टिन में उसी ड्राइवर के प्रदर्शन नाम के साथ इसी तरह के अनुभव की सूचना दी। "अद्भुत," होबार्ट ने एक्स पर लिखा, उस छवि को साझा करते हुए जिसे उन्होंने एआई-जनित माना था। "डोरडैश ड्राइवर ने ड्राइव स्वीकार की, तुरंत इसे डिलीवर के रूप में चिह्नित किया, और हमारे सामने के दरवाजे (दाएं) पर डोरडैश ऑर्डर (बाएं) की एक एआई-जनित छवि प्रस्तुत की।"

यह घटना डिलीवरी सेवाओं में कृत्रिम बुद्धिमत्ता के संभावित दुरुपयोग और एआई-जनित धोखाधड़ी का पता लगाने की चुनौतियों के बारे में चिंताएं बढ़ाती है। होबार्ट ने अनुमान लगाया कि ड्राइवर ने जेलब्रोकन फोन पर एक हैक किए गए खाते का उपयोग किया होगा, डोरडैश सुविधा के माध्यम से पिछली डिलीवरी से अपने सामने के दरवाजे की एक तस्वीर तक पहुंच प्राप्त की होगी। यह सिस्टम में एक संभावित भेद्यता को उजागर करता है, जहां ऐतिहासिक डिलीवरी डेटा का शोषण किया जा सकता है।

डिलीवरी की पुष्टिओं को गढ़ने के लिए एआई का उपयोग धोखाधड़ी की रोकथाम में जटिलता की एक नई परत जोड़ता है। जेनरेटिव एआई मॉडल यथार्थवादी छवियां बना सकते हैं, जिससे उन्हें प्रामाणिक तस्वीरों से अलग करना मुश्किल हो जाता है। यह घटना डिलीवरी को सत्यापित करने और एआई-जनित सामग्री का पता लगाने के लिए कंपनियों के लिए अधिक परिष्कृत तरीकों को विकसित करने की आवश्यकता को रेखांकित करती है। ऐसे तरीकों में उन्नत छवि विश्लेषण, जीपीएस ट्रैकिंग सत्यापन और ग्राहक प्रतिक्रिया तंत्र शामिल हो सकते हैं।

डोरडैश के एक प्रवक्ता ने टेकक्रंच को बताया कि कंपनी ने तुरंत मामले की जांच की, जिसके कारण ड्राइवर को निष्क्रिय कर दिया गया। कंपनी ने धोखाधड़ी वाली छवि का पता लगाने के लिए उपयोग किए गए विशिष्ट तरीकों पर विस्तार से नहीं बताया।

यह घटना एआई के व्यापक सामाजिक निहितार्थों के बारे में बढ़ती चिंताओं के बीच आई है। जैसे-जैसे एआई तकनीक अधिक उन्नत और सुलभ होती जाती है, दुरुपयोग की संभावना बढ़ जाती है। यह घटना एआई से जुड़े जोखिमों को कम करने के लिए नैतिक विचारों और सक्रिय उपायों के महत्व की याद दिलाती है। यह घटना विकसित हो रही तकनीकी क्षमताओं के सामने चल रही सतर्कता और अनुकूलन की आवश्यकता पर भी प्रकाश डालती है।