“틱톡의 최우선 과업은 이용자 보호입니다.”
11일(현지 시간) 싱가포르 틱톡 투명성 및 책임 센터(TAC)에서 만난 틱톡 관계자는 “수익 추구보다도 이용자 보호가 우선시된다”고 거듭 강조했다. 월간 활성화 이용자 수(MAU)가 16억 명이 넘는 글로벌 숏폼 콘텐츠 플랫폼 틱톡은 이용자가 유해한 콘텐츠에 노출되고 중독되는 것을 막기 위한 노력을 강조하기 위해 TAC를 개설했다. 싱가포르뿐 아니라 미국 워싱턴DC와 로스앤젤레스(LA), 아일랜드 더블린 등 4곳에서 TAC를 운영하고 있다.
틱톡은 이날 TAC를 방문한 취재진에게 콘텐츠 심사 과정과 알고리즘 작동 원리 등 이용자 보호 원칙을 직접 소개했다. 우선 커뮤니티 가이드라인을 위반하는 콘텐츠는 차단한다. 틱톡이 지난해 4분기에만 1억 7646만여 건의 유해 콘텐츠를 삭제했다. 이는 전년 동기 대비 106.0% 증가한 수치로 분기 기준 역대 최대치다. 삭제된 콘텐츠는 '민감한 성인 테마'(33.3%)가 가장 많았다. 위험한 무기·마약 등 '규제 대상 물품 및 상업 활동’(30.1%), 위험한 챌린지·자살 관련 ‘정신 및 행동 건강'(15.5%), 희롱 및 괴롭힘·성 착취 등 '안전 및 시민 의식'(13.5%) 등이 그 뒤를 이었다. TAC 관계자는 “자유롭고 안전한 플랫폼 환경을 조성해 창의성을 고취하기 위해 유해 콘텐츠를 차단하고 있다”고 강조했다.
틱톡은 인공지능(AI)을 활용해 콘텐츠의 유해성을 탐지하는 원리도 소개했다. 첨단 기술을 이용하면 실시간으로 쏟아지는 유해 콘텐츠를 효율적으로 차단할 수 있다. 틱톡의 AI는 위험한 무기, 음주, 흡연, 도박, 극단주의, 성적 활동행위 등 관련 데이터를 학습했다. 이를 기반으로 자동으로 유해성을 도출해 가이드라인 위반 사실을 적발한다. 지난해 4분기 삭제한 유해 콘텐츠 중 72.7%(1억 2830만여 건)를 AI를 활용해 삭제했다. AI를 이용한 콘텐츠 삭제 비율은 전년 동기(51.2%) 대비 21.5%포인트 증가했다. AI가 효과를 입증하고 있는 것이다. 틱톡 관계자는 “콘텐츠의 맥락도 종합적으로 고려한다”며 “예를 들어 음주 영상은 삭제를 보류하지만 등장 인물이 미성년자일 경우 즉각적으로 지운다”고 전했다.
AI가 거르지 못한 유해 콘텐츠는 전 세계적으로 4만 명이 넘는 전문 심사 인력이 막는다. 류동근 틱톡코리아 공공정책 총괄은 “각 지역의 문화와 관습을 이해할 수 있는 심사 인력이 있는 것은 틱톡의 장점”이라고 소개했다. 이용자의 신고를 통해서도 콘텐츠를 삭제한다.
틱톡은 알고리즘이 특정 취향의 콘텐츠만 노출해 이용자의 편향성이 강화하는 ‘필터 버블’ 현상도 막는다고 설명했다. 이용자의 취향에 맞는 콘텐츠의 노출 비율이 60%를 넘어가면 그렇지 않은 콘텐츠를 섞는 방식이다. 악의적인 딥페이크 등 AI 콘텐츠로 인한 문제 해결에도 팔을 걷어붙였다. 최근 틱톡 AI 효과를 이용한 콘텐츠뿐 아니라 타사 플랫폼에서 제작된 생성형 AI 콘텐츠에도 자동으로 ‘AI 생성’ 라벨을 붙이기 시작했다. 양수정 틱톡 동북아시아 신뢰안전팀 파트너십 매니저는 “지난달 '콘텐츠 출처 및 진위 확인을 위한 연합'(C2PA)과 콘텐츠 투명성 정책을 구현하기 위한 파트너십을 체결해 AI 생성 라벨을 붙이는 정책을 영상 플랫폼 최초로 실행했다”고 말했다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
kim@sedaily.com
