أكدت DoorDash أنها حظرت سائقًا يُشتبه في استخدامه صورة مُنشأة بواسطة الذكاء الاصطناعي لادعاء كاذب بإتمام عملية توصيل، وذلك عقب انتشار منشور على وسائل التواصل الاجتماعي. أفاد بايرن هوبارت، المقيم في أوستن، بالحادثة على X، المعروفة سابقًا باسم Twitter، مشيرًا إلى أن السائق قبل الطلب، ثم قام على الفور بوضع علامة "تم التوصيل" عليه، وقدم ما يبدو أنها صورة مُنشأة بواسطة الذكاء الاصطناعي لطلب DoorDash عند بابه الأمامي.

اكتسب منشور هوبارت انتشارًا واسعًا، حيث ادعى مستخدم آخر أنه تعرض لحادث مماثل مع نفس اسم عرض السائق، أيضًا في أوستن. كتب هوبارت على X، مشاركًا الصورة: "مذهل. قبل سائق DoorDash القيادة، ثم قام على الفور بوضع علامة "تم التوصيل" عليها، وقدم صورة مُنشأة بواسطة الذكاء الاصطناعي لطلب DoorDash (على اليسار) عند بابنا الأمامي (على اليمين)."

صرح متحدث باسم DoorDash لموقع TechCrunch أن الشركة حققت في الأمر وقامت بإلغاء تنشيط حساب السائق.

تكهن هوبارت بأن السائق ربما استخدم حسابًا مخترقًا على هاتف تم كسر حمايته، وربما تمكن من الوصول إلى صور بابه الأمامي من عمليات توصيل سابقة من خلال ميزة DoorDash. يثير هذا مخاوف بشأن أمان بيانات المستخدم وإمكانية إساءة استخدام ميزات منصة التوصيل.

يسلط الحادث الضوء على التطور المتزايد للذكاء الاصطناعي وإمكاناته في الأنشطة الاحتيالية. يمكن لنماذج الذكاء الاصطناعي التوليدية الآن إنشاء صور واقعية، مما يجعل من الصعب التمييز بين المحتوى الحقيقي والمزيف. يطرح هذا تحديات للشركات التي تعتمد على التحقق المرئي لخدمات مثل تأكيد التسليم.

يشير الخبراء إلى أن اكتشاف الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي يتطلب تقنيات متقدمة، بما في ذلك تحليل البيانات الوصفية، وفحص القطع الأثرية للصورة، واستخدام أدوات الكشف المدعومة بالذكاء الاصطناعي. ومع ذلك، فإن هذه الأساليب ليست مضمونة، ويقوم المحتالون باستمرار بتطوير طرق جديدة للتحايل على الاكتشاف.

يؤكد الحادث أيضًا على الآثار المجتمعية الأوسع للمحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي. مع تقدم تكنولوجيا الذكاء الاصطناعي، يصبح من المهم بشكل متزايد تطوير ضمانات قوية لمنع إساءة استخدامها في عمليات الاحتيال وحملات التضليل والأنشطة الخبيثة الأخرى. يجب على الشركات والأفراد أن يظلوا يقظين وأن يتبنوا استراتيجيات للتحقق من صحة المحتوى الرقمي.

لم تنشر DoorDash مزيدًا من التفاصيل حول تحقيقها أو التدابير المحددة التي تتخذها لمنع وقوع حوادث مماثلة. من المحتمل أن تحدد استجابة الشركة لهذا الحدث سابقة لكيفية تعامل منصات التوصيل مع التهديد المتزايد للاحتيال المرتبط بالذكاء الاصطناعي.