DoorDash证实，在一段病毒式传播的社交媒体帖子之后，该公司已禁止一名涉嫌使用人工智能生成的图像来虚假声称已完成送货的司机。奥斯汀居民Byrne Hobart在X上报告了这起事件，称该司机接受了订单，立即将其标记为已送达，并提交了一张看似是人工智能生成的DoorDash订单在他家门口的照片。

Hobart的帖子引起了广泛关注，另一位用户报告说，在奥斯汀也遇到了类似的情况，并且使用了相同的司机显示名称。Hobart在X上写道：“太棒了”，并分享了他认为是由人工智能生成的图像。“DoorDash司机接受了订单，立即将其标记为已送达，并提交了一张人工智能生成的DoorDash订单（左）在我们家门口（右）的照片。”

该事件引发了人们对人工智能在送货服务中被滥用的潜在风险以及检测人工智能生成的欺诈行为所面临的挑战的担忧。Hobart推测，该司机可能使用了越狱手机上的被盗账户，通过DoorDash功能访问了他家门口之前送货的照片。这突显了系统中的一个潜在漏洞，即历史送货数据可能被利用。

使用人工智能伪造送货确认信息为欺诈预防引入了一个新的复杂层面。生成式人工智能模型可以创建逼真的图像，使其难以与真实照片区分开来。这一事件凸显了公司需要开发更复杂的方法来验证送货情况和检测人工智能生成的内容。这些方法可能包括增强的图像分析、GPS跟踪验证和客户反馈机制。

DoorDash发言人告诉TechCrunch，该公司迅速调查了此事，导致该司机被停用。该公司没有详细说明用于检测欺诈图像的具体方法。

这一事件发生之际，人们越来越关注人工智能更广泛的社会影响。随着人工智能技术变得越来越先进和普及，滥用的可能性也在增加。这一事件提醒我们，必须重视伦理考量和积极措施，以减轻与人工智能相关的风险。该事件还强调，面对不断发展的技术能力，需要持续保持警惕和适应。