도어대시가 맞은 진짜 AI 충격

이번엔 고객이 아니라 드라이버가 속였다 AI 때문에 골치 아픈 플랫폼은 많지만, 도어대시는 이번에 제대로 한 방 맞았어.

이번 사건이 흥미로운 이유는 고객 클레임도 아니고, 내부 직원도 아니라 드라이버가 AI를 써서 플랫폼의 신뢰 구조를 직접 깨버렸다는 점이야.

 

도어대시에 무슨 일이 있었냐면

시작은 미국 텍사스 오스틴에 사는 번 호바트라는 사람이 X에 올린 글이었어. 상황은 이랬어.

• 도어대시 주문을 했는데, 기사가 음식을 받자마자 바로 ‘배달 완료’를 눌렀고
• 현관 앞에 음식이 놓여 있는 사진이 증빙으로 올라왔다는 거야

근데 문제는 그 사진이 실제 사진이 아니라 AI로 생성된 이미지처럼 보였다는 점이었어. 현관 구조, 문틀, 조명 각도까지 그럴듯했는데 정작 음식은 없었고, 사진만 남아 있었던 거지.

처음엔 “이거 조작 아니냐”는 의혹 정도였는데 같은 닉네임의 드라이버에게 비슷한 피해를 봤다는 오스틴 지역 이용자 증언이 이어지면서 단순 해프닝으로 넘기기 힘든 분위기가 됐어.

 

[이미지 출처: https://www.doordash.com/ 캡쳐]

 

이게 가능한 이유는 AI 때문이 아니라, 플랫폼 설계 때문이야

이 사건의 핵심은 “AI가 대단해서”가 아니라 플랫폼이 사진 한 장을 신뢰의 최종 증거로 쓰고 있었다는 점이야.

도어대시는 ‘문 앞에 두고 가기’ 옵션에서 과거 배달 사진을 고객에게 보여줘. 여기서 추정되는 시나리오는 이거야.

• 드라이버가 예전에 찍힌 해당 집 현관 사진을 확보하고
• 그 이미지를 기반으로 AI로 새 이미지를 생성
• 도어대시 가방, 음식 실루엣만 자연스럽게 합성
• 그리고 그걸 ‘배달 완료 사진’으로 업로드

이렇게 되면 사람 눈으로 봤을 때는 거의 구분이 안 돼. 플랫폼 입장에서는 AI로 만든 이미지든, 실제 사진이든 그냥 JPG 한 장일 뿐이거든.

 

도어대시의 공식 대응, 빠르긴 했지만 불안한 메시지

도어대시는 이 사건이 퍼지자 바로 입장을 냈어.

해당 드라이버 계정은 영구 비활성화하고 고객에게는 환불과 보상 완료했다고 해. 또한, 사기에 대해서는 제로 톨러런스 원칙 강조했는데 겉으로 보면 깔끔해 보여.

근데 문제는 이거야. 이제 사람들 머릿속에는 “AI로 배달 완료 사진 조작 가능”이라는 방법론 자체가 공유돼버렸다는 점이야.

이런 사건은 한 번 알려지는 순간 악성 유저들에겐 튜토리얼이 돼.

마치, 우리나라에서도 무인 아이스크림이 한번 털리기 시작하면 사람에 대한 신뢰가 무너지 듯이...

 

이제 사진 인증만으로는 못 버틴다

이 사건이 플랫폼 업계에 던지는 메시지는 꽤 명확해. 사진 인증만으로 신뢰를 유지하던 구조는 AI 시대에 더 이상 안전하지 않다는 거야.

앞으로 플랫폼들이 고민해야 할 방향은 대충 이 정도야.

1. 이미지 진위 검증

• AI 생성 흔적을 분석하는 이미지 포렌식
• 워터마크, 패턴, 픽셀 노이즈 분석
• EXIF 정보, 촬영 시각, 연속 촬영 여부 점수화

2. 위치와 디바이스 신뢰 결합

• 사진 촬영 위치와 GPS 위치 불일치 시 완료 불가
• 루팅·탈옥 기기 탐지 시 배달 수행 차단
• 비정상 앱 변조 탐지 강화

3. 과거 사진 접근 제한

• 예전 배달 사진을 그대로 노출하면 사기 템플릿이 됨
• 저해상도 처리나 워터마크 적용
• 일정 기간 이후 접근 차단

결국 핵심은 단일 증거가 아니라, 여러 신호를 조합한 신뢰 모델로 가야 한다는 거야.

 

이건 도어대시만의 문제가 아니다

이 사건은 도어대시 하나로 끝날 일이 아니야. 우버이츠, 그랩, 쿠팡이츠 같은 모든 긱·배달 플랫폼이 똑같이 고민해야 할 문제야.

플랫폼이 지금 던져야 할 질문은 이런 거지.

• 우리가 신뢰의 증거로 쓰는 건 정확히 뭐냐
• 그중 AI가 가장 먼저 깨는 고리는 어디냐
• 정직한 드라이버는 보호하면서, 악성 플레이어만 걸러낼 수 있냐

AI는 효율을 높이는 도구이기도 하지만 동시에 시스템의 허점을 자동화해서 확장하는 도구이기도 해.

이번 도어대시 사건은 AI가 노동을 대체하기 전에 먼저 사기를 스케일링하기 시작했다는 신호처럼 보여.

플랫폼 신뢰 구조를 소프트웨어 레벨이 아니라 하드웨어·디바이스·위치까지 포함해서 다시 설계해야 할 시점이 온 것 같아.