DoorDashは、配達が完了したと偽って主張するためにAI生成画像を使用した疑いのあるドライバーを、ソーシャルメディアで拡散した投稿を受けて、アカウント停止にしたことを発表しました。オースティン在住のバーン・ホーバート氏は、X（旧Twitter）でこの事件を報告し、ドライバーが注文を受け付け、即座に配達済みとしてマークし、彼の玄関先にDoorDashの注文品があるように見えるAI生成画像を提出したと述べました。

ホーバート氏の投稿は注目を集め、別のユーザーが同じドライバー表示名で同様の経験をオースティンで報告しました。ホーバート氏はXで「素晴らしい」と書き、AI生成されたと思われる画像を共有しました。「DoorDashのドライバーが配達を受け付け、即座に配達済みとしてマークし、私たちの玄関先にあるDoorDashの注文品（左）のAI生成画像を提出しました（右）。」

この事件は、配達サービスにおける人工知能の潜在的な悪用と、AI生成詐欺の検出の難しさについての懸念を高めています。ホーバート氏は、ドライバーが脱獄した携帯電話でハッキングされたアカウントを使用し、DoorDashの機能を通じて以前の配達から彼の玄関先の写真にアクセスした可能性があると推測しました。これは、過去の配達データが悪用される可能性があるという、システムにおける潜在的な脆弱性を浮き彫りにしています。

AIを使用して配達確認を捏造することは、不正防止に新たな複雑さをもたらします。生成AIモデルはリアルな画像を作成できるため、本物の写真と区別することが困難になります。この事件は、企業が配達を検証し、AI生成コンテンツを検出するための、より高度な方法を開発する必要性を強調しています。そのような方法には、高度な画像分析、GPS追跡検証、および顧客フィードバックメカニズムが含まれる可能性があります。

DoorDashの広報担当者はTechCrunchに対し、同社が迅速に調査を行い、ドライバーのアカウント停止に至ったと語りました。同社は、不正な画像を検出するために使用された具体的な方法については詳しく説明しませんでした。

この出来事は、AIのより広範な社会的影響に対する懸念が高まる中で発生しました。AI技術がより高度化し、アクセスしやすくなるにつれて、悪用の可能性が高まります。この事件は、倫理的配慮と、AIに関連するリスクを軽減するための積極的な対策の重要性を改めて認識させるものです。また、進化する技術的能力に直面して、継続的な警戒と適応が必要であることを強調しています。