DoorDash a confirmé avoir banni un livreur soupçonné d'avoir utilisé une image générée par IA pour prétendre faussement qu'une livraison avait été effectuée, suite à une publication virale sur les réseaux sociaux. Byrne Hobart, un habitant d'Austin, a signalé l'incident sur X, déclarant que le livreur avait accepté la commande, l'avait immédiatement marquée comme livrée et avait soumis ce qui semblait être une image générée par IA d'une commande DoorDash devant sa porte d'entrée.

La publication de Hobart a gagné en popularité, un autre utilisateur signalant une expérience similaire à Austin avec le même nom d'affichage de livreur. "Incroyable", a écrit Hobart sur X, partageant l'image qu'il pensait être générée par IA. "Le livreur DoorDash a accepté la course, l'a immédiatement marquée comme livrée et a soumis une image générée par IA d'une commande DoorDash (à gauche) devant notre porte d'entrée (à droite)."

L'incident soulève des inquiétudes quant à l'utilisation potentielle abusive de l'intelligence artificielle dans les services de livraison et aux difficultés de détection de la fraude générée par IA. Hobart a émis l'hypothèse que le livreur pourrait avoir utilisé un compte piraté sur un téléphone débridé, accédant à une photo de sa porte d'entrée à partir de livraisons précédentes via une fonctionnalité DoorDash. Cela met en évidence une vulnérabilité potentielle du système, où les données d'historique des livraisons pourraient être exploitées.

L'utilisation de l'IA pour fabriquer des confirmations de livraison introduit une nouvelle couche de complexité dans la prévention de la fraude. Les modèles d'IA générative peuvent créer des images réalistes, ce qui rend difficile de les distinguer des photographies authentiques. Cet incident souligne la nécessité pour les entreprises de développer des méthodes plus sophistiquées pour vérifier les livraisons et détecter le contenu généré par IA. Ces méthodes pourraient inclure une analyse d'image améliorée, une vérification du suivi GPS et des mécanismes de rétroaction des clients.

Un porte-parole de DoorDash a déclaré à TechCrunch que l'entreprise avait rapidement enquêté sur la question, ce qui a conduit à la désactivation du livreur. L'entreprise n'a pas précisé les méthodes spécifiques utilisées pour détecter l'image frauduleuse.

Cet événement survient dans un contexte d'inquiétudes croissantes quant aux implications sociétales plus larges de l'IA. À mesure que la technologie de l'IA devient plus avancée et accessible, le potentiel d'utilisation abusive augmente. Cet incident sert de rappel de l'importance des considérations éthiques et des mesures proactives pour atténuer les risques associés à l'IA. L'incident souligne également la nécessité d'une vigilance et d'une adaptation continues face à l'évolution des capacités technologiques.