지난달 30일 서울에 거주하는 30대 직장인 양 모 씨는 고가의 이어폰을 구매하기 위해 중고거래 플랫폼을 살펴보다 자신이 생각하던 가격보다 저렴한 가격에 물품을 판매한다는 게시글을 발견했다. 통상 중고거래 방식대로 양 씨는 판매자에게 이름과 전화번호가 적힌 포스트잇을 물품에 붙여 ‘인증’을 해달라고 요청했다. 몇 분 지나지 않아 판매자는 이어폰에 종이를 얹은 사진을 보내왔고 양 씨는 별다른 의심 없이 상대방에게 입금을 했다. 그러나 며칠이 지나도 택배를 발송했다는 연락을 받지 못한 양 씨는 판매자에게 재차 연락을 해봤지만 그 뒤로는 연락이 닿지 않았다.
15일 경찰 등에 따르면 생성형 인공지능(AI)의 사진 합성·제작 기술이 고도화되고 있는 가운데 중고물품 거래 과정에서 이를 악용하는 사례가 잇따라 발견되고 있다. 육안으로 쉽게 구분하기 어려운 사진을 생성하는 방식으로 구매자를 속여 돈만 가로채는 범죄가 기승을 부리려 경찰에도 잇따라 신고가 접수되고 있다.
사기꾼들은 주로 온라인상에 올라와 있는 물건 사진을 도용해 자신의 이름이나 ID가 적힌 포스트잇 이미지를 생성형 AI로 만들어 구매자를 안심시킨다. 사진 배경이나 각도, 물건의 위치도 자유자재로 변형할 수 있어 피해자들이 사진이 가짜라는 것을 구분하기는 어렵다. 사기가 유행하자 일부 구매자들은 판매자에게 동영상 촬영을 요구하기도 하지만 이미지만으로도 조작된 동영상을 만들 수 있어 이 또한 사기 여부를 제대로 판단할 수 없는 방법이다.
실제 구글의 생성형 AI ‘제미나이’에 달력 이미지를 첨부하고 그 위에 기자의 영어 이름 약자 ‘CMS’와 가상의 전화번호 ‘010-0000-0000’을 적은 포스트잇을 붙여달라고 주문하자 채 1분도 되지 않는 시간에 완성된 이미지가 나왔다. 사진에 흔들림 효과를 주문하거나 아래 유리에도 포스트잇이 비치는 것처럼 사진을 바꿔달라고 요구하자 더욱 자연스러운 이미지가 생성됐다.
물품 사진을 받은 뒤 포스트잇으로 인증을 요구했을 때 정확히 같은 구도에서 포스트잇만 올라와 있는 사진을 받을 경우 AI를 활용한 사기를 의심해야 한다. 중고거래 플랫폼에서 제공하고 있는 ‘안심거래’ 서비스를 이용하는 것도 사기를 당하지 않을 수 있는 수단이지만 보통 사기 판매자들은 ‘계좌입금이 편하다’라고 하며 이를 거절한다. 직거래를 요구하더라도 “출장을 왔다” “판매 장소와 멀리 떨어져 있는 본가에 있다”는 핑계를 대며 택배 거래를 유도한다.
문제는 이를 걸러낼 수 있는 장치가 없다는 것이다. 이은희 인하대 소비자학과 교수는 “구매자들이 AI로 조작된 사진을 판별하기는 어려운 일이기 때문에 플랫폼 차원에서 신뢰도 확보를 위해 대책 마련이 필요하다”며 “‘AI로 조작된 사진이 유행하고 있으니 주의가 필요하다’는 경고를 항상 띄워두고 조작 여부를 판단할 수 있는 자제 시스템을 도입해 거래글 작성 단계에서부터 이를 거를 수 있는 장치가 필요하다”고 강조했다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
vegemin@sedaily.com
