정부가 인공지능(AI)를 활용한 허위·과장 광고를 막기 위해 AI 생성물 표시 의무화와 징벌적 손해배상 등 강력 조치에 나서기로 했다.
정부는 10일 오전 정부서울청사에서 김민석 국무총리 주재로 제7회 국가정책조정회의를 열고 이러한 내용의 ‘AI 등을 활용한 시장 질서 교란 허위·과장광고 대응 방안’을 발표했다.
최근 식·의약품 분야를 중심으로 AI를 활용한 허위·과장광고가 범람하는 상황에서 기술 발달로 진위 구분이 쉽지 않아 특히 노년층을 중심으로 국민의 피해가 우려된다는 판단에서다.
앞서 이재명 대통령도 지난 10월 AI 기술을 악용한 허위·과장 광고의 문제를 지적하며 관계부처가 근본적 대책을 강구해달라고 주문한 바 있다.
이에 정방송미디어통신위원회(방미통위)는 AI 생성물이 실제가 아니라는 점을 소비자가 정확히 알 수 있도록 돕고자 ‘AI 생성물 표시제’를 도입한다.
AI 생성물을 제작·편집해 플랫폼에 게시하는 사람은 해당 자료를 AI로 만들었다는 사실을 표시해야 한다. 다른 이용자가 AI 생성물 표시를 제거하거나 훼손하는 행위는 금지된다.
플랫폼 기업은 ‘정보 제공자’가 표시 의무를 준수하는지 관리해야 한다. 또한 AI 사업자의 AI 생성물 표시 의무 이행 및 AI 생성물의 투명한 사용을 돕기 위한 가이드라인도 마련한다. 정부는 내년 1분기 내로 정보통신망법 등을 개정할 방침이다.
AI를 악용한 허위 정보에 대한 징벌적 손해배상제도를 도입하는 등 위법 행위자에 대한 제재도 강화된다. 일정 규모 이상의 정보 게재자(인플루언서 등)가 허위임을 알면서도 타인을 해할 의도로 허위·조작 정보를 유통한 경우 실제 발생한 손해의 최대 5배 배상 책임을 질 수 있다.
아울러 표시광고법상 과징금 수준을 대폭 상향해 허위·과장광고 위반 행위에 대한 제재 효과도 높일 방침이다.
AI로 만든 전문가가 제품을 추천하는 광고에 대한 위법성 판단 기준 자체를 명확하게 설정해 허위·과장 광고를 신속하게 제재할 수 있도록 할 방침이다. 아울러 AI 기술을 활용해 부당 광고 의심 사례를 모니터링하는 시스템을 도입하는 등 감시·적발 기능도 강화한다.
이와 함께 방미통위 및 방송미디어통신심의위원회(방미심위)는 식·의약품, 화장품, 의약외품, 의료기기 등 AI 허위·과장광고가 빈발하는 분야를 ‘서면 심의’ 대상에 추가하는 방안을 추진한다.
이를 통해 해당 영역의 허위·광고에 대해선 심의 요청 후 24시간 이내 신속한 심의를 진행한다는 계획이다. 각 부처·기관은 관련법 개정 등을 통해 사안별로 이르면 내년 1분기, 장기적으로는 내년 하반기까지 방안을 실제 이행할 계획이다.
김민석 총리는 “이번 대책을 통해 신기술의 부작용을 최소화하는 동시에 AI 시대에 걸맞은 시장 질서를 확립해나갈 것”이라고 말했다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
sesang222@sedaily.com
