DoorDash a confirmé avoir banni un livreur soupçonné d'avoir utilisé une image générée par IA pour prétendre faussement qu'une livraison avait été effectuée, suite à une publication virale sur les réseaux sociaux. Byrne Hobart, un habitant d'Austin, a signalé l'incident sur X, anciennement Twitter, déclarant que le livreur avait accepté la commande, l'avait immédiatement marquée comme livrée et avait soumis ce qui semblait être une image générée par IA d'une commande DoorDash devant sa porte d'entrée.

La publication de Hobart a gagné en popularité, un autre utilisateur affirmant avoir vécu un incident similaire avec le même nom d'affichage de livreur, également à Austin. "Incroyable", a écrit Hobart sur X, en partageant l'image. "Un livreur DoorDash a accepté la course, l'a immédiatement marquée comme livrée et a soumis une image générée par IA d'une commande DoorDash (à gauche) devant notre porte d'entrée (à droite)."

Un porte-parole de DoorDash a déclaré à TechCrunch que l'entreprise avait enquêté sur l'affaire et désactivé le compte du livreur.

Hobart a supposé que le livreur pourrait avoir utilisé un compte piraté sur un téléphone débridé, accédant potentiellement à des images de sa porte d'entrée provenant de livraisons précédentes via une fonctionnalité DoorDash. Cela soulève des inquiétudes quant à la sécurité des données des utilisateurs et au potentiel d'utilisation abusive des fonctionnalités de la plateforme de livraison.

L'incident met en évidence la sophistication croissante de l'IA et son potentiel pour les activités frauduleuses. Les modèles d'IA générative peuvent désormais créer des images réalistes, ce qui rend difficile la distinction entre le contenu réel et le contenu faux. Cela pose des défis aux entreprises qui s'appuient sur la vérification visuelle pour des services tels que la confirmation de livraison.

Les experts notent que la détection des images générées par l'IA nécessite des techniques avancées, notamment l'analyse des métadonnées, l'examen des artefacts d'image et l'utilisation d'outils de détection basés sur l'IA. Cependant, ces méthodes ne sont pas infaillibles et les fraudeurs développent constamment de nouvelles façons de contourner la détection.

L'incident souligne également les implications sociétales plus larges du contenu généré par l'IA. À mesure que la technologie de l'IA progresse, il devient de plus en plus important de développer des garanties solides pour empêcher son utilisation abusive dans les escroqueries, les campagnes de désinformation et autres activités malveillantes. Les entreprises et les particuliers doivent rester vigilants et adopter des stratégies pour vérifier l'authenticité du contenu numérique.

DoorDash n'a pas publié d'autres détails sur son enquête ni sur les mesures spécifiques qu'elle prend pour prévenir des incidents similaires. La réponse de l'entreprise à cet événement établira probablement un précédent sur la manière dont les plateformes de livraison abordent la menace croissante de la fraude liée à l'IA.