이재명 대통령이 특정 투자 플랫폼을 홍보하는 듯한 내용의 인공지능(AI) 합성 영상이 온라인상에서 확산되면서 경찰이 내사에 착수했다.
14일 경기남부경찰청 사이버수사과는 AI 기반 투자 플랫폼을 사칭한 사기 웹사이트 ‘이퀄룸프로(EquiloomPRO·이퀄룸)’에 대해 내사에 착수했다고 밝혔다. 이 사이트는 “매월 안정적인 수익 창출이 가능하다”며 사회관계망서비스(SNS)에 AI로 제작한 뉴스 영상과 인터뷰를 게시해 투자자들을 현혹한 것으로 알려졌다.
문제의 영상에는 국내 방송사 앵커로 보이는 인물이 등장해 이퀄룸을 “정부가 인증한 투자처”로 소개한다. 이어 이재명 대통령의 얼굴을 합성한 인물이 나타나 “삶을 바꿀 기회”라며 “월 30만 원 투자 시 2400만~3000만 원을 벌 수 있다”고 말하는 장면도 포함됐다.
대통령의 얼굴과 목소리를 도용한 ‘AI 가짜 뉴스’가 등장한 것은 이번이 처음으로, 경찰은 외국인 범죄 조직의 개입 가능성에 무게를 두고 있다. 영상 속 대통령은 지난 4월 공개한 출마 선언 영상의 모습과 닮아있다. 또 실제와 다른 어조와 발음을 보이며 문법적으로 어색한 표현을 사용하는데 경찰은 이를 근거로 “우리말이 서툰 외국인이 AI 음성·영상 합성 기술로 제작했을 가능성이 크다”고 보고 있다.
이퀄룸은 이 같은 AI 영상으로 신뢰를 유도한 뒤 공식 사이트 방문자에게 이름·이메일·전화번호를 입력하도록 유도하고 최소 35만 원 이상 입금을 요구했다.
경찰은 피해 규모를 파악하는 한편 영상에 등장하는 앵커 이미지의 출처와 서버 위치를 추적하고 있다.
경찰 관계자는 “이퀄룸 관련 AI 합성 영상이 2건 확인됐다”며 “현재 입건 전 조사 단계로, 해외 서버와 제작 경로를 중심으로 사실관계를 확인 중”이라고 밝혔다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
aftershock@sedaily.com
