DoorDashは、配達が完了したと偽って主張するためにAI生成画像を使用した疑いのあるドライバーを、ソーシャルメディアで拡散した投稿を受けて、アカウント停止にしたことを発表しました。オースティン在住のバーン・ホーバート氏は、この事件について、以前はTwitterとして知られていたXに投稿し、ドライバーが注文を受け付け、すぐに配達済みとし、彼の玄関先にDoorDashの注文品があるように見えるAI生成画像を提出したと述べています。

ホーバート氏の投稿は注目を集め、別のユーザーも、同じオースティンで、同じドライバー表示名で同様の事件を経験したと主張しました。「素晴らしい」とホーバート氏はXに書き込み、画像を共有しました。「DoorDashのドライバーが運転を受け付け、すぐに配達済みとし、私たちの玄関先（右）にDoorDashの注文品（左）のAI生成画像を提出しました。」

DoorDashの広報担当者はTechCrunchに対し、同社がこの件を調査し、ドライバーのアカウントを停止したと語りました。

ホーバート氏は、ドライバーが脱獄した携帯電話でハッキングされたアカウントを使用し、DoorDashの機能を通じて以前の配達から彼の玄関先の画像にアクセスした可能性があると推測しました。これは、ユーザーデータのセキュリティと、配達プラットフォーム機能の悪用の可能性についての懸念を高めます。

この事件は、AIの高度化と、詐欺行為への潜在的な可能性を浮き彫りにしています。生成AIモデルは、現実的な画像を生成できるようになり、本物と偽物のコンテンツを区別することが困難になっています。これは、配達確認などのサービスで視覚的な検証に依存している企業にとって課題となっています。

専門家は、AI生成画像を検出するには、メタデータの分析、画像アーティファクトの調査、AI搭載の検出ツールの使用など、高度な技術が必要であると指摘しています。ただし、これらの方法は万全ではなく、詐欺師は常に検出を回避する新しい方法を開発しています。

この事件はまた、AI生成コンテンツのより広範な社会的影響を浮き彫りにしています。AI技術が進歩するにつれて、詐欺、偽情報キャンペーン、その他の悪意のある活動での悪用を防ぐための堅牢な保護措置を開発することがますます重要になっています。企業と個人は警戒を怠らず、デジタルコンテンツの信頼性を検証するための戦略を採用する必要があります。

DoorDashは、調査の詳細や、同様の事件を防ぐために講じている具体的な対策については、まだ発表していません。このイベントに対する同社の対応は、配達プラットフォームがAI関連の詐欺の増大する脅威にどのように対処するかについて、先例となる可能性があります。