온 몸 묶인 채 “엄마, 살려줘” 오열…납치당한 딸, 알고보니 ‘이것’ 이었다?

AI 딥페이크 기술로 제작한 가짜 납치 영상

경찰 “사기 수법 고도화…각별히 주의해야”

사진 = 이미지투데이

중국 범죄조직이 AI 딥페이크 기술로 제작한 가짜 딸 납치 영상으로 부모를 협박하는 사건이 발생했다. 실제 중국인 피해자는 제주도에서 관광을 즐기고 있던 것으로 확인됐다.

8일 경찰에 따르면 제주서부경찰서는 지난달 말 중국 공안으로부터 20대 중국인 여성 A씨의 수색 요청을 받았다. 당시 중국 공안은 “A씨 부모로부터 딸이 납치된 것으로 의심된다는 신고를 받았다”며 “A씨가 제주도에 여행을 떠났다고 하니 찾아달라"고 공조를 요청했다.

경찰은 당일 오전 10시께 이 소식을 전달 받은 후 형사 10여 명을 즉각 출동시켰고 오후 9시께 여행 중인 A씨를 찾아냈다.



조사 결과 범죄조직은 A씨의 사진과 음성을 이용해 AI 딥페이크 기술로 납치 영상을 제작했다. 19초 분량의 영상에서 A씨로 조작된 인물은 온 몸이 테이프와 줄로 묶인 채 “마마, 파파”를 외치며 살려달라고 호소했다. 영상의 완성도가 높아 공안과 한국 경찰도 처음에는 실제 영상으로 착각할 정도였다.

경찰 관계자는 “분석 결과 딥페이크 가능성이 높다는 판단이 나왔다”며 “이번 사건은 AI 기술이 강력범죄에 악용될 수 있음을 보여주는 사례”라고 설명했다.

최근 AI 기술의 발달로 음성과 얼굴을 정교하게 재현하는 것이 가능해지면서 범죄 수법도 진화하고 있다. 북유럽과 영미권에서는 최근 AI 기술을 활용한 ‘로맨스스캠’ 범죄가 급증하고 있으며 번역 기술의 발달로 비영어권으로도 확산하는 추세다.

경찰은 SNS에 공개된 사진과 짧은 음성만으로도 정교한 가짜 영상 제작이 가능하다며 주의를 당부했다. 경찰청 국가수사본부 관계자는 "딥페이크 범죄 영상으로 사기 수법이 더욱 고도화되고 있다"며 "시민들의 각별한 주의가 필요하다"고 강조했다.