DoorDash подтвердила, что заблокировала водителя, подозреваемого в использовании сгенерированного ИИ изображения, чтобы ложно утверждать о выполнении доставки, после вирусного поста в социальных сетях. Житель Остина Бирн Хобарт сообщил об инциденте в X, ранее Twitter, заявив, что водитель принял заказ, немедленно отметил его как доставленный и отправил то, что, по-видимому, было сгенерированным ИИ изображением заказа DoorDash у его входной двери.

Пост Хобарта набрал популярность, и другой пользователь заявил, что столкнулся с аналогичным инцидентом с тем же отображаемым именем водителя, также в Остине. "Потрясающе", - написал Хобарт в X, поделившись изображением. "Водитель DoorDash принял заказ, немедленно отметил его как доставленный и отправил сгенерированное ИИ изображение заказа DoorDash (слева) у нашей входной двери (справа)".

Представитель DoorDash сообщил TechCrunch, что компания расследовала этот вопрос и деактивировала учетную запись водителя.

Хобарт предположил, что водитель мог использовать взломанную учетную запись на телефоне с джейлбрейком, потенциально получая доступ к изображениям его входной двери из предыдущих доставок через функцию DoorDash. Это вызывает опасения по поводу безопасности пользовательских данных и потенциального злоупотребления функциями платформы доставки.

Инцидент подчеркивает растущую сложность ИИ и его потенциал для мошеннических действий. Генеративные модели ИИ теперь могут создавать реалистичные изображения, что затрудняет различие между реальным и поддельным контентом. Это создает проблемы для компаний, полагающихся на визуальную верификацию для таких услуг, как подтверждение доставки.

Эксперты отмечают, что обнаружение изображений, сгенерированных ИИ, требует передовых методов, включая анализ метаданных, изучение артефактов изображения и использование инструментов обнаружения на основе ИИ. Однако эти методы не являются надежными, и мошенники постоянно разрабатывают новые способы обхода обнаружения.

Инцидент также подчеркивает более широкие социальные последствия контента, сгенерированного ИИ. По мере развития технологий ИИ становится все более важным разрабатывать надежные меры защиты для предотвращения его злоупотребления в мошенничестве, кампаниях по дезинформации и других злонамеренных действиях. Компании и частные лица должны сохранять бдительность и разрабатывать стратегии для проверки подлинности цифрового контента.

DoorDash не предоставила дополнительных сведений о своем расследовании или конкретных мерах, которые она принимает для предотвращения подобных инцидентов. Реакция компании на это событие, вероятно, создаст прецедент для того, как платформы доставки будут реагировать на растущую угрозу мошенничества, связанного с ИИ.