ভাইরাল হওয়া একটি সোশ্যাল মিডিয়া পোস্টের পর ডোরড্যাশ নিশ্চিত করেছে যে তারা একজন চালককে নিষিদ্ধ করেছে, যিনি একটি ডেলিভারি সম্পন্ন হয়েছে বলে মিথ্যা দাবি করার জন্য এআই-জেনারেটেড ছবি ব্যবহার করেছেন বলে সন্দেহ করা হচ্ছে। অস্টিনের বাসিন্দা বাইর্ন হোবার্ট X-এ এই ঘটনার কথা জানান। তিনি বলেন, চালক অর্ডারটি গ্রহণ করেন, সঙ্গে সঙ্গেই ডেলিভারি হয়েছে বলে চিহ্নিত করেন এবং তার দরজার সামনে ডোরড্যাশ অর্ডারের একটি এআই-জেনারেটেড ছবি জমা দেন।

হোবার্টের পোস্টটি দ্রুত ছড়িয়ে পরে, এবং অন্য একজন ব্যবহারকারী একই ড্রাইভার ডিসপ্লে নাম ব্যবহার করে অস্টিনে একই ধরনের অভিজ্ঞতার কথা জানান। হোবার্ট X-এ ছবিটি শেয়ার করে লেখেন, "অসাধারণ"। তিনি মনে করেন ছবিটি এআই-জেনারেটেড। তিনি লেখেন, "ডোরড্যাশ চালক ড্রাইভটি গ্রহণ করেন, সঙ্গে সঙ্গেই ডেলিভারি হয়েছে বলে চিহ্নিত করেন এবং আমাদের দরজার সামনে (ডানদিকে) একটি ডোরড্যাশ অর্ডারের এআই-জেনারেটেড ছবি (বাঁদিকে) জমা দেন।"

এই ঘটনা ডেলিভারি সার্ভিসে কৃত্রিম বুদ্ধিমত্তার সম্ভাব্য অপব্যবহার এবং এআই-জেনারেটেড জালিয়াতি শনাক্ত করার চ্যালেঞ্জগুলো নিয়ে উদ্বেগ সৃষ্টি করেছে। হোবার্ট অনুমান করেছেন যে চালক সম্ভবত একটি জেলব্রোকেন ফোনে হ্যাক করা অ্যাকাউন্ট ব্যবহার করেছেন, এবং ডোরড্যাশের একটি ফিচারের মাধ্যমে আগের ডেলিভারি থেকে তার সামনের দরজার ছবি অ্যাক্সেস করেছেন। এটি সিস্টেমের একটি সম্ভাব্য দুর্বলতাকে তুলে ধরে, যেখানে ঐতিহাসিক ডেলিভারি ডেটা কাজে লাগানো যেতে পারে।

ডেলিভারি নিশ্চিতকরণের জন্য এআই-এর ব্যবহার জালিয়াতি প্রতিরোধের ক্ষেত্রে একটি নতুন জটিলতা যোগ করেছে। জেনারেটিভ এআই মডেলগুলো বাস্তবসম্মত ছবি তৈরি করতে পারে, ফলে সেগুলোকে আসল ছবি থেকে আলাদা করা কঠিন হয়ে পড়ে। এই ঘটনা ডেলিভারি যাচাই করার জন্য এবং এআই-জেনারেটেড কন্টেন্ট শনাক্ত করার জন্য কোম্পানিগুলোর আরও অত্যাধুনিক পদ্ধতি তৈরি করার প্রয়োজনীয়তার ওপর জোর দেয়। এই ধরনের পদ্ধতির মধ্যে উন্নত ইমেজ বিশ্লেষণ, জিপিএস ট্র্যাকিং যাচাইকরণ এবং গ্রাহকের কাছ থেকে প্রতিক্রিয়া নেওয়ার প্রক্রিয়া অন্তর্ভুক্ত থাকতে পারে।

ডোরড্যাশের একজন মুখপাত্র টেকক্রাঞ্চকে জানিয়েছেন যে কোম্পানি দ্রুত বিষয়টি তদন্ত করেছে, যার ফলে চালককে বরখাস্ত করা হয়েছে। কোম্পানি জালিয়াতিপূর্ণ ছবিটি শনাক্ত করার জন্য ব্যবহৃত নির্দিষ্ট পদ্ধতি সম্পর্কে বিস্তারিত কিছু জানায়নি।

এআই-এর ব্যাপক সামাজিক প্রভাব নিয়ে ক্রমবর্ধমান উদ্বেগের মধ্যে এই ঘটনাটি ঘটল। এআই প্রযুক্তি যত বেশি উন্নত এবং সহজলভ্য হচ্ছে, অপব্যবহারের সম্ভাবনাও তত বাড়ছে। এই ঘটনাটি এআই-এর সঙ্গে যুক্ত ঝুঁকিগুলো কমাতে নৈতিক বিবেচনা এবং সক্রিয় পদক্ষেপের গুরুত্বের কথা মনে করিয়ে দেয়। ঘটনাটি ক্রমবর্ধমান প্রযুক্তিগত সক্ষমতার মুখে চলমান সতর্কতা এবং অভিযোজনের প্রয়োজনীয়তার ওপরও জোর দেয়।