أكدت DoorDash أنها حظرت سائقًا يُشتبه في استخدامه صورة مُنشأة بواسطة الذكاء الاصطناعي للادعاء كذبًا بإتمام عملية توصيل، وذلك عقب انتشار منشور على وسائل التواصل الاجتماعي. أفاد بايرن هوبارت، المقيم في أوستن، بالحادثة على X، مشيرًا إلى أن السائق قبل الطلب، ثم قام على الفور بوضع علامة عليه بأنه تم تسليمه، وقدم ما يبدو أنها صورة مُنشأة بواسطة الذكاء الاصطناعي لطلب DoorDash عند بابه الأمامي.

اكتسب منشور هوبارت انتشارًا واسعًا، حيث أبلغ مستخدم آخر عن تجربة مماثلة في أوستن مع نفس اسم عرض السائق. كتب هوبارت على X: "مذهل"، مشاركًا الصورة التي يعتقد أنها مُنشأة بواسطة الذكاء الاصطناعي. "قبل سائق DoorDash الرحلة، ثم قام على الفور بوضع علامة عليها بأنه تم تسليمها، وقدم صورة مُنشأة بواسطة الذكاء الاصطناعي لطلب DoorDash (على اليسار) عند بابنا الأمامي (على اليمين)."

يثير الحادث مخاوف بشأن احتمال إساءة استخدام الذكاء الاصطناعي في خدمات التوصيل والتحديات التي تواجه اكتشاف الاحتيال الناتج عن الذكاء الاصطناعي. تكهن هوبارت بأن السائق ربما استخدم حسابًا مخترقًا على هاتف تم كسر حمايته، ووصل إلى صورة لبابه الأمامي من عمليات توصيل سابقة من خلال ميزة DoorDash. يسلط هذا الضوء على نقطة ضعف محتملة في النظام، حيث يمكن استغلال بيانات التوصيل التاريخية.

إن استخدام الذكاء الاصطناعي لتلفيق تأكيدات التوصيل يقدم طبقة جديدة من التعقيد لمنع الاحتيال. يمكن لنماذج الذكاء الاصطناعي التوليدية إنشاء صور واقعية، مما يجعل من الصعب تمييزها عن الصور الفوتوغرافية الأصلية. يؤكد هذا الحادث على حاجة الشركات إلى تطوير طرق أكثر تطوراً للتحقق من عمليات التوصيل واكتشاف المحتوى الناتج عن الذكاء الاصطناعي. قد تتضمن هذه الطرق تحليلًا محسنًا للصور، والتحقق من تتبع نظام تحديد المواقع العالمي (GPS)، وآليات ملاحظات العملاء.

صرح متحدث باسم DoorDash لموقع TechCrunch أن الشركة حققت بسرعة في الأمر، مما أدى إلى إلغاء تنشيط السائق. ولم تذكر الشركة تفاصيل حول الطرق المحددة المستخدمة لاكتشاف الصورة الاحتيالية.

يأتي هذا الحدث وسط مخاوف متزايدة بشأن الآثار المجتمعية الأوسع للذكاء الاصطناعي. مع ازدياد تقدم تكنولوجيا الذكاء الاصطناعي وإمكانية الوصول إليها، يزداد احتمال إساءة استخدامها. يعد هذا الحادث بمثابة تذكير بأهمية الاعتبارات الأخلاقية والتدابير الاستباقية للتخفيف من المخاطر المرتبطة بالذكاء الاصطناعي. يسلط الحادث الضوء أيضًا على الحاجة إلى اليقظة المستمرة والتكيف في مواجهة القدرات التكنولوجية المتطورة.