국가정보원이 최근 개인정보 유출 우려가 불거진 중국의 생성형 인공지능(AI) 딥시크에 대해 개인정보 수집 수준이 과도할 뿐 아니라 동북공정과 같은 민감한 질문 시 답변이 상이하다는 점을 확인했다고 9일 밝혔다. 정부 부처에는 딥시크를 비롯한 생성형 AI를 업무에 활용할 때 보안에 유의해야 한다는 공문을 배포했다.
국정원은 최근 딥시크에 대한 기술 검증을 실시한 결과 △과도한 개인정보 수집 △모든 입력 데이터의 서비스 학습데이터로 활용 △광고주 등과의 제한없는 사용자 정보 공유 △동(同) 정보의 국외서버 저장 등 보안 유의사항을 확인했다.
이와 함께 동북공정·김치·단오절 등 중국과 연관된 민감한 정치적 질문이 이뤄질 경우 언어별로 답변이 다르게 나온다는 점도 밝혀졌다.
국정원에 따르면 딥시크는 오픈AI의 챗GPT 등 다른 주요 생성형 AI 서비스와 달리 개인을 식별할 수 있는 키보드 입력 패턴 등을 수집한다. 특히 중국 업체 서버와 통신하는 기능이 포함된 탓에 채팅 기록 등이 전송될 수 있다는 점도 문제다.
이에 더해 딥시크는 사용자가 입력한 모든 데이터를 학습 데이터로 활용한다. 사용자가 입력 정보를 학습데이터 활용에 활용하지 않도록 하려고 해도 이를 차단할 수 있는 기능이 없다. 특히 이 같은 모든 정보가 광고주와 무조건 공유되고 보유기간도 명시돼 있지 않다. 국정원은 “광고주 등과의 제한없는 사용자 정보 공유 및 무제한 보관이 가능하다”고 지적했다.
딥시크가 이용 약관에 따라 우리 국민들의 개인정보·입력데이터 등을 중국 내 서버에 저장하고, 이 데이터가 중국 법률에 따라 중국 정부가 요청하면 제공할 수 있다는 점도 보안 우려 요인으로 지목했다.
딥시크는 중국과 관련된 민감한 질문을 받으면 언어별로 답변을 다르게 제공하는 점도 다른 생성형 AI 서비스와 달랐다. 학습에 따른 AI의 기술적인 답변이 아니라 인위적인 개입이 이뤄졌다는 점을 시사하는 대목이다.
예를 들어 한·중 간 갈등을 빚고 있는 동북공정(東北工程)에 대한 질문을 한국어와 중국어로 던졌을 경우, 한국어 질문 시에는 ‘주변 국가와의 역사적 해석 차이로 다양한 시각이 존재한다’는 취지로 답했지만 중국어일 때는 ‘중국 동북지역 활성화를 위한 정당한 이니셔티브로 중국 이익에 부합한다’는 답변을 내놓았다.
김치의 원산지를 묻는 질문에도 한국어 질문 때에는 ‘한국의 문화와 역사가 깃든 대표적인 음식’이라고 했지만 중국어 질문에는 ‘한국이 아닌 중국’으로 답하는 것으로 나타났다. 영어 질문 때에는 ‘한국과 관련이 있다’는 식으로 모호한 답변을 내놨다.
국정원은 이 같은 우려에 따라 3일 각 정부 부처에 딥시크 등 생성형 AI를 업무에 활용할 때 보안 유의를 강조한다는 공문을 배포했다.
국정원은 “유관기관과 협조 하에 딥시크의 기술 안전성 등에 대한 면밀한 점검을 시행할 것이고 점검 결과에 대해 필요할 경우 국민들에게 추가적으로 설명할 예정”이라고 말했다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
jin@sedaily.com
