DoorDash подтвердила, что заблокировала водителя, подозреваемого в использовании сгенерированного ИИ изображения, чтобы ложно заявить о выполнении доставки, после вирусного поста в социальных сетях. Житель Остина, Бирн Хобарт, сообщил об инциденте в X, заявив, что водитель принял заказ, немедленно отметил его как доставленный и отправил то, что, по-видимому, было сгенерированным ИИ изображением заказа DoorDash у его входной двери.

Пост Хобарта набрал популярность, и другой пользователь сообщил об аналогичном опыте в Остине с тем же отображаемым именем водителя. «Потрясающе», — написал Хобарт в X, поделившись изображением, которое, по его мнению, было сгенерировано ИИ. «Водитель DoorDash принял заказ, немедленно отметил его как доставленный и отправил сгенерированное ИИ изображение заказа DoorDash (слева) у нашей входной двери (справа)».

Этот инцидент вызывает опасения по поводу потенциального злоупотребления искусственным интеллектом в службах доставки и проблем с обнаружением мошенничества, сгенерированного ИИ. Хобарт предположил, что водитель мог использовать взломанную учетную запись на телефоне с джейлбрейком, получив доступ к фотографии его входной двери из предыдущих доставок через функцию DoorDash. Это подчеркивает потенциальную уязвимость в системе, где исторические данные о доставке могут быть использованы.

Использование ИИ для фальсификации подтверждений доставки добавляет новый уровень сложности в предотвращение мошенничества. Генеративные модели ИИ могут создавать реалистичные изображения, что затрудняет их отличие от подлинных фотографий. Этот инцидент подчеркивает необходимость для компаний разрабатывать более сложные методы проверки доставок и обнаружения контента, сгенерированного ИИ. Такие методы могут включать расширенный анализ изображений, проверку GPS-трекинга и механизмы обратной связи с клиентами.

Представитель DoorDash сообщил TechCrunch, что компания быстро расследовала этот вопрос, что привело к деактивации водителя. Компания не уточнила конкретные методы, использованные для обнаружения мошеннического изображения.

Это событие происходит на фоне растущей обеспокоенности по поводу более широких социальных последствий ИИ. По мере того, как технология ИИ становится все более продвинутой и доступной, потенциал для злоупотреблений возрастает. Этот инцидент служит напоминанием о важности этических соображений и упреждающих мер по смягчению рисков, связанных с ИИ. Инцидент также подчеркивает необходимость постоянной бдительности и адаптации перед лицом развивающихся технологических возможностей.