ভাইরাল হওয়া একটি সোশ্যাল মিডিয়া পোস্টের পর ডোরড্যাশ নিশ্চিত করেছে যে তারা একজন ড্রাইভারকে নিষিদ্ধ করেছে, যার বিরুদ্ধে এআই-জেনারেটেড ছবি ব্যবহার করে মিথ্যাভাবে ডেলিভারি সম্পন্ন করার অভিযোগ উঠেছে। অস্টিনের বাসিন্দা বাইর্ন হোবার্ট X (পূর্বে টুইটার)-এ এই ঘটনার কথা জানান। তিনি বলেন, ড্রাইভার অর্ডারটি গ্রহণ করে সঙ্গে সঙ্গেই ডেলিভারি সম্পন্ন হয়েছে বলে চিহ্নিত করেন এবং তার দরজার সামনে ডোরড্যাশ অর্ডারের একটি এআই-জেনারেটেড ছবি জমা দেন।

হোবার্টের পোস্টটি দ্রুত ছড়িয়ে পরে, এবং অন্য একজন ব্যবহারকারী একই ড্রাইভার ডিসপ্লে নাম ব্যবহার করে অস্টিনে অনুরূপ ঘটনার শিকার হয়েছেন বলে দাবি করেন। হোবার্ট X-এ ছবিটি শেয়ার করে লেখেন, "অসাধারণ"। "ডোরড্যাশ ড্রাইভার ড্রাইভটি গ্রহণ করে, সঙ্গে সঙ্গেই ডেলিভারি সম্পন্ন হয়েছে বলে চিহ্নিত করে এবং আমাদের দরজার সামনে (ডানদিকে) ডোরড্যাশ অর্ডারের একটি এআই-জেনারেটেড ছবি (বাঁদিকে) জমা দেয়।"

ডোরড্যাশের একজন মুখপাত্র টেকক্রাঞ্চকে জানিয়েছেন যে কোম্পানি বিষয়টি তদন্ত করে দেখেছে এবং ড্রাইভারের অ্যাকাউন্টটি নিষ্ক্রিয় করে দিয়েছে।

হোবার্ট অনুমান করেছেন যে ড্রাইভার সম্ভবত জেলব্রোকেন ফোনে হ্যাক করা অ্যাকাউন্ট ব্যবহার করেছেন, এবং ডোরড্যাশের একটি ফিচারের মাধ্যমে আগের ডেলিভারি থেকে তার সামনের দরজার ছবি অ্যাক্সেস করেছেন। এটি ব্যবহারকারীর ডেটার সুরক্ষা এবং ডেলিভারি প্ল্যাটফর্মের ফিচারের অপব্যবহারের সম্ভাবনা সম্পর্কে উদ্বেগ সৃষ্টি করে।

এই ঘটনাটি এআই-এর ক্রমবর্ধমান পরিশীলিততা এবং প্রতারণামূলক কার্যকলাপের জন্য এর সম্ভাবনাকে তুলে ধরে। জেনারেটিভ এআই মডেলগুলি এখন বাস্তবসম্মত ছবি তৈরি করতে পারে, যার ফলে আসল এবং নকল কন্টেন্টের মধ্যে পার্থক্য করা কঠিন হয়ে পড়েছে। এটি ডেলিভারি নিশ্চিতকরণের মতো পরিষেবাগুলির জন্য ভিজ্যুয়াল যাচাইকরণের উপর নির্ভরশীল সংস্থাগুলির জন্য চ্যালেঞ্জ তৈরি করে।

বিশেষজ্ঞরা উল্লেখ করেছেন যে এআই-জেনারেটেড ছবি সনাক্ত করার জন্য মেটাডেটা বিশ্লেষণ, ছবির ত্রুটি পরীক্ষা এবং এআই-চালিত সনাক্তকরণ সরঞ্জাম ব্যবহার সহ উন্নত কৌশলগুলির প্রয়োজন। তবে, এই পদ্ধতিগুলি ত্রুটিমুক্ত নয়, এবং জালিয়াতরা ক্রমাগত সনাক্তকরণ এড়ানোর জন্য নতুন উপায় তৈরি করছে।

এই ঘটনাটি এআই-জেনারেটেড কন্টেন্টের ব্যাপক সামাজিক প্রভাবকেও তুলে ধরে। এআই প্রযুক্তি যত উন্নত হচ্ছে, জালিয়াতি, ভুল তথ্য প্রচার এবং অন্যান্য ক্ষতিকর কার্যকলাপ থেকে এর অপব্যবহার রোধ করতে শক্তিশালী সুরক্ষা ব্যবস্থা তৈরি করা ততই গুরুত্বপূর্ণ হয়ে উঠছে। কোম্পানি এবং ব্যক্তি উভয়কেই সতর্ক থাকতে হবে এবং ডিজিটাল কন্টেন্টের সত্যতা যাচাই করার জন্য কৌশল অবলম্বন করতে হবে।

ডোরড্যাশ তাদের তদন্ত বা অনুরূপ ঘটনা প্রতিরোধের জন্য তারা কী কী নির্দিষ্ট পদক্ষেপ নিচ্ছে সে সম্পর্কে বিস্তারিত কিছু জানায়নি। এই ঘটনার প্রেক্ষিতে কোম্পানির প্রতিক্রিয়া সম্ভবত ডেলিভারি প্ল্যাটফর্মগুলি এআই-সম্পর্কিত প্রতারণার ক্রমবর্ধমান হুমকির মোকাবিলা করার ক্ষেত্রে একটি নজির স্থাপন করবে।