소셜 미디어에서 입소문이 난 게시물에 따라 DoorDash는 AI로 생성된 이미지를 사용하여 배송 완료를 허위로 주장한 혐의를 받는 운전자를 차단했다고 확인했습니다. 오스틴 거주자인 Byrne Hobart는 이 사건을 이전 트위터인 X에 보고하면서 운전자가 주문을 수락한 후 즉시 배송 완료로 표시하고 현관에 있는 DoorDash 주문의 AI 생성 이미지로 보이는 이미지를 제출했다고 밝혔습니다.

Hobart의 게시물은 화제를 모았고, 또 다른 사용자는 오스틴에서 동일한 운전자 표시 이름으로 유사한 사건을 경험했다고 주장했습니다. Hobart는 X에 이미지를 공유하면서 "놀랍습니다."라고 썼습니다. "DoorDash 운전자가 운전을 수락하고 즉시 배송 완료로 표시한 다음 현관(오른쪽)에 있는 DoorDash 주문(왼쪽)의 AI 생성 이미지를 제출했습니다."

DoorDash 대변인은 TechCrunch에 회사가 이 문제를 조사하여 해당 운전자의 계정을 비활성화했다고 말했습니다.

Hobart는 운전자가 탈옥된 휴대폰에서 해킹된 계정을 사용했을 수 있으며, DoorDash 기능을 통해 이전 배송에서 현관 이미지를 잠재적으로 액세스했을 수 있다고 추측했습니다. 이는 사용자 데이터 보안과 배송 플랫폼 기능의 오용 가능성에 대한 우려를 제기합니다.

이 사건은 AI의 정교함 증가와 사기 행위에 대한 잠재력을 강조합니다. 생성적 AI 모델은 이제 실제와 가짜 콘텐츠를 구별하기 어렵게 만드는 현실적인 이미지를 만들 수 있습니다. 이는 배송 확인과 같은 서비스에 대한 시각적 검증에 의존하는 회사에 어려움을 제기합니다.

전문가들은 AI 생성 이미지를 탐지하려면 메타데이터 분석, 이미지 아티팩트 검사 및 AI 기반 탐지 도구 사용을 포함한 고급 기술이 필요하다고 지적합니다. 그러나 이러한 방법은 완벽하지 않으며 사기꾼은 탐지를 피하기 위해 끊임없이 새로운 방법을 개발하고 있습니다.

이 사건은 또한 AI 생성 콘텐츠의 광범위한 사회적 의미를 강조합니다. AI 기술이 발전함에 따라 사기, 허위 정보 캠페인 및 기타 악의적인 활동에서 오용을 방지하기 위한 강력한 안전 장치를 개발하는 것이 점점 더 중요해지고 있습니다. 기업과 개인은 경계를 늦추지 않고 디지털 콘텐츠의 진위를 확인하기 위한 전략을 채택해야 합니다.

DoorDash는 조사에 대한 추가 세부 정보나 유사한 사건을 방지하기 위해 취하고 있는 구체적인 조치를 발표하지 않았습니다. 이 사건에 대한 회사의 대응은 배송 플랫폼이 AI 관련 사기의 증가하는 위협에 대처하는 방법에 대한 선례를 세울 가능성이 높습니다.