DoorDash confirmó que vetó a un conductor sospechoso de usar una imagen generada por IA para afirmar falsamente que una entrega se había completado, tras una publicación viral en redes sociales. Byrne Hobart, residente de Austin, denunció el incidente en X, antes Twitter, afirmando que el conductor aceptó el pedido, lo marcó inmediatamente como entregado y envió lo que parecía ser una imagen generada por IA de un pedido de DoorDash en su puerta principal.

La publicación de Hobart ganó tracción, y otro usuario afirmó haber experimentado un incidente similar con el mismo nombre de conductor, también en Austin. "Increíble", escribió Hobart en X, compartiendo la imagen. "El conductor de DoorDash aceptó el viaje, lo marcó inmediatamente como entregado y envió una imagen generada por IA de un pedido de DoorDash (izquierda) en nuestra puerta principal (derecha)".

Un portavoz de DoorDash declaró a TechCrunch que la empresa investigó el asunto y desactivó la cuenta del conductor.

Hobart especuló que el conductor podría haber utilizado una cuenta hackeada en un teléfono con jailbreak, accediendo potencialmente a imágenes de su puerta principal de entregas anteriores a través de una función de DoorDash. Esto plantea preocupaciones sobre la seguridad de los datos del usuario y el potencial de uso indebido de las funciones de la plataforma de entrega.

El incidente pone de relieve la creciente sofisticación de la IA y su potencial para actividades fraudulentas. Los modelos de IA generativa ahora pueden crear imágenes realistas, lo que dificulta la distinción entre contenido real y falso. Esto plantea desafíos para las empresas que confían en la verificación visual para servicios como la confirmación de entrega.

Los expertos señalan que la detección de imágenes generadas por IA requiere técnicas avanzadas, incluyendo el análisis de metadatos, el examen de artefactos de imagen y el empleo de herramientas de detección impulsadas por IA. Sin embargo, estos métodos no son infalibles, y los estafadores están constantemente desarrollando nuevas formas de eludir la detección.

El incidente también subraya las implicaciones sociales más amplias del contenido generado por IA. A medida que la tecnología de IA avanza, se vuelve cada vez más importante desarrollar salvaguardias sólidas para prevenir su uso indebido en estafas, campañas de desinformación y otras actividades maliciosas. Las empresas y los individuos deben permanecer vigilantes y adoptar estrategias para verificar la autenticidad del contenido digital.

DoorDash no ha publicado más detalles sobre su investigación ni sobre las medidas específicas que está tomando para prevenir incidentes similares. La respuesta de la empresa a este evento probablemente sentará un precedente sobre cómo las plataformas de entrega abordan la creciente amenaza del fraude relacionado con la IA.