-
'범정부 차원 불법합성물 삭제 촉구'
사회 사회일반 2024.08.29 15:49:20전국교직원노동조합 관계자들이 29일 서울 종로구 정부서울청사 앞에서 학교 불법합성물(딥페이크) 성범죄 실태조사 결과 발표 기자회견을 하고 있다. -
학교 딥페이크 성범죄 실태조사 결과 발표
사회 사회일반 2024.08.29 15:48:30전국교직원노동조합 관계자들이 29일 서울 종로구 정부서울청사 앞에서 학교 불법합성물(딥페이크) 성범죄 실태조사 결과 발표 기자회견을 하고 있다. -
전교조, 학교 불법합성물 성범죄 실태조사 결과 발표
사회 사회일반 2024.08.29 15:47:24전국교직원노동조합 관계자들이 29일 서울 종로구 정부서울청사 앞에서 학교 불법합성물(딥페이크) 성범죄 실태조사 결과 발표 기자회견을 하고 있다. -
'딥페이크' 퍼지는데…디지털 성범죄 피해 대응 예산·인력 '태부족'
경제·금융 경제동향 2024.08.29 15:10:50딥페이크(불법 합성물 제작)와 디지털 성범죄 불법 영상물이 청소년을 중심으로 확산하면서 피해가 매우 커지는 가운데, 불법 영상물 삭제에 투입되는 예산과 인력은 태부족인 것으로 나타났다. 29일 관계부처에 따르면 올해 불법 영상물 삭제에 투입된 디지털 성범죄 피해 대응 예산은 인건비를 제외하고 12억 2800만 원인 것으로 나타났다. 지난해(10억 원)보다 늘었지만, 이는 진흥원 내 관련 서버 보안을 강화하기 위한 행정·보안 예산이라 사실상의 추가적인 재정적 지원은 전무했다. 급속도로 진화하는 디지털 성범죄 기술을 따라 잡기 위한 기술 개발 비용이나 해외 협력 예산도 없었다. 불법 영상물이 올라오고 확산하는 사이트 대부분이 해외에 서버를 두고 있어 불법 영상물을 삭제하려면 국제 협력이 필요한데 이를 위한 재정적 지원이 없는 것이다. 삭제를 지원하는 직원 역시 대부분이 기간제이고 총인원이 15~20명에 불과해 만성적인 인력난에 시달리고 있다. 지난해 처리한 불법 영상물 삭제 지원 건수가 24만 건이었음을 고려하면 직원 1명당 1만 2000~1만 6000건씩 담당한 셈이다. 문제는 디지털 성범죄 유형과 확산 속도가 급속도로 고도화·가속화되고 있다는 점이다. 실제로 지난해 한국여성인권진흥원의 불법 영상물 삭제 지원 건수는 5년 전인 2018년보다 약 8배, 2020년보다 약 1.5배 급증했다. -
울산서도 고교 여학생 2명 딥페이크 피해 신고…경찰 수사
사회 전국 2024.08.29 15:07:28울산의 한 고등학교에서 딥페이크(불법 합성물 제작) 피해 신고가 들어와 경찰이 수사에 나섰다. 29일 울산경찰청에 따르면 울산의 모 고등학교에 재학 중인 여학생 2명이 자신과 연관된 딥페이크 사진이 사회관계망서비스(SNS)에 유포됐다고 최근 신고했다. 이 여학생들은 친구들이 SNS에서 해당 사진을 발견하고 알려줘 피해 사실을 확인한 것으로 전해졌다. 경찰은 음란물에 해당 학생들이 합성된 이미지를 확인했다. 경찰은 구체적인 범행 경위 등 제작, 유포자를 찾고 있다. -
'딥페이크 성범죄 즉시 신고'…네이버·카카오, 신고 채널 안내
산업 IT 2024.08.29 13:59:11최근 텔레그램 등에서 벌어진 '딥페이크 성범죄' 관련 사회적 우려가 커지고 있는 가운데 네이버와 카카오(035720)는 신고 방법을 안내하고 나섰다. 카카오는 29일 고객센터 공지사항과 카카오톡 공지사항을 통해 "카카오 서비스 내에서 딥페이크 영상물, 이미지 등 관련 콘텐츠를 발견하신 경우 즉시 신고해 주시기를 바란다"며 관련 링크를 첨부했다. 이어 "본인을 포함한 특정인의 초상과 성적 이미지를 합성한 정보 또는 합성 제작을 제안·요청하는 정보가 있다면 신고해 주시기를 바란다"며 경찰청 사이버범죄수사과, 디지털성범죄피해자지원센터 등의 연락처도 소개했다. 카카오는 "허위 영상물을 제작하거나 유포하는 행위는 법적 규제 대상에 해당하며 개인의 명예 훼손, 사생활 침해, 개인정보 보호법 위반 등과 관련된 법적 처벌을 받을 수 있다"며 주의를 당부했다. 네이버도 전날 고객센터 공지사항 등을 통해 딥페이크 이미지나 영상에 대한 신고 채널을 안내했다. 네이버는 "만약 딥페이크 기술을 사용해 성폭력처벌법 등 관련 법령을 위반하거나 제3자의 권리를 침해하는 이미지나 영상을 발견하셨다면 아래의 신고 채널을 통해 접수해 주시기 바란다"며 관련 링크를 안내했다. 네이버는 고객센터뿐 아니라 게시물 신고센터, 그린UGC 공식 블로그를 통해서도 딥페이크 유포에 대한 주의 및 신고를 당부했다. 네이버는 "딥페이크 기술을 악용한 범죄 행위는 심각한 법적 처벌을 받을 수 있다"며 "타인의 콘텐츠를 단순히 게시하거나 유통하더라도 해당 콘텐츠가 딥페이크나 생성형 인공지능(AI) 등을 이용한 경우 문제가 될 수 있기 때문에 각별한 주의가 필요하다"고 강조했다. 이어 "딥페이크 기술을 악용한 디지털 성범죄와 관련해 네이버는 이용자 여러분의 안전과 개인정보 보호를 최우선으로 생각한다"고 전했다. -
전교조 “학교 딥페이크 피해자 517명…29명은 자기 얼굴 직접 확인”
사회 사회일반 2024.08.29 13:27:14전국교직원노동조합(전교조)이 ‘딥페이크(인공지능 기반 이미지 합성) 성범죄’ 관련 피해 실태를 조사한 결과 피해 신고가 2500건에 달하는 것으로 나타났다. 전교조는 29일 정부서울청사 앞에서 기자회견을 열고 이달 27일과 28일 이틀간 ‘학교 딥페이크 성범죄 실태조사’를 벌인 결과 총 2492건의 신고가 접수됐다고 밝혔다. 자신의 사진으로 만들어진 성착취물을 확인한 직접 피해자는 29명으로 집계됐다. 이 가운데 교사는 16명, 학생은 13명이었다. 또 딥페이크 성착취물 제작 관련 협박을 주변으로부터 전달받은 간접 피해자가 488명(교사 188명·학생 291명·교직원 9명)에 달하는 등, 직간접 피해자는 총 517명으로 조사됐다. 피해자 14명(교사 6명, 학생 8명)은 딥페이크 성착취물 관련 협박 범죄에까지 노출됐다. 학교별로는 중학교 5명, 고등학교 5명, 유치원 5명, 특수학교와 기타(교육청, 대학교, 청소년 등)에서 각 1명이 불법 합성물 관련 협박 피해를 겪고 있는 것으로 나타났다. 또 최근 소셜미디어(SNS)에서 ‘피해 학교 목록’이 확산되고 있는 가운데 이들 학교 구성원들을 향해 허위 피해를 빌미로 사진과 신상, 금전 등을 요구하는 협박이 발생하고 있는 것으로 파악됐다. 전교조는 “자체적인 피해자 지원과 더불어 범정부 차원의 피해자 회복 지원과 국가 주도의 강력 대응을 요구할 예정”이라며 “가해자에 대한 엄중 조치와 교육활동 보호, 지원을 위해 교육 당국과 지속해서 협의하며 대응하겠다”고 했다. -
국방부 “여군 딥페이크 심각성 인지, 경찰 수사에 협조”
정치 통일·외교·안보 2024.08.29 13:01:29국방부는 타인의 얼굴을 합성해 모욕하는 딥페이크 성범죄 피해자에 여군이 포함된 것과 관련해 해당 사안에 적극 대처하고 있다고 밝혔다. 전하규 국방부 대변인은 29일 정례브리핑에서 “사안의 심각성을 충분히 인지하고 있으며 경찰 수사에도 적극적으로 협조하고 있다”고 말했다. 전 대변인은 “이번 사건 관련해서 피해 현황을 접수하고 있고 상담·신고 등 여러 가지 피해자 보호를 위해 필요한 조치를 시행하고 있다”며 “재발 방지를 위한 교육, 다양한 예방 대책 등을 병행해 갈 것”이라고 강조했다. 최근 온라인에서 딥페이크 영상이 확산하는 가운데 여군을 상대로 음란물 딥페이크 영상을 제작·유포하는 텔레그램 대화방도 만들어진 것으로 전해진다. 심지어 해당 대화방이 캡처된 사진을 보면 대화방 운영자로 추정되는 인물은 참가자에게 여군의 군복 사진과 일상 사진 등을 요구하고 있다. -
"선생님, 이상한 사진이 돌아다녀요"…'딥페이크 범인' 가르치던 제자였다
사회 사회일반 2024.08.29 10:06:08#교사 A씨는 지난달 23일 불법 촬영 피해를 당한 사실을 뒤늦게 알게 됐다. 다른 반 학생들이 찾아와 딥페이크 성착취물을 보여주며 “선생님 반 학생이 선생님 사진을 불법합성해 텔레그램에 올렸다”고 전해주면서다. 해당 사진은 학생들 사이에 이미 널리 퍼진 상황이었다. A씨는 한겨레에 “누가 동참했는지, 누가 알고도 방관했는지 알 수 없어 아이들을 제대로 마주하기 힘들다”고 말했다. 그는 병가를 내고 심리상담을 받으며 경찰의 피해자 조사를 받고 있다. #최근 교사 B씨 또한 불법 촬영 피해를 입었다. 한 학생이 수업 시간에 질문을 하는 척 교탁 앞으로 와서 치마 밑을 불법 촬영한 것. 다른 학생의 신고로 잡힌 가해자의 휴대전화에서는 포르노 사진에 B씨 얼굴이 합성된 파일이 발견됐다. B씨는 “학교가 해당 사안을 잘 마무리해줄 것이라 믿었지만, 교육청 측은 사건을 축소하고 낮은 수준의 징계로 마무리하려 했다”면서 “가해 학생 휴대전화를 추가 조사해 다른 학생의 신체가 찍힌 불법 촬영물이 추가로 발견되고 나서야 퇴학 처리됐다”고 전했다. #교사 C씨는 최근 자신의 결혼식·자녀·가족 사진을 도용한 불법 합성물이 SNS에 올라온 사실을 알게 됐다. 가해자가 SNS에 실명 해시태그까지 달아놔 이를 보고 인지하게 된 것이다. 해당 게시글에는 차마 입에 담을 수 없는 불쾌한 표현도 있었다고 한다. 전국교직원노동조합(전교조)과 뉴스1에 따르면 일선 학교 현장에서 교사들이 딥페이크 성착취물 피해를 보는 사례가 우후죽순 나오고 있다. 특히 교사 입장에선 가해자가 자신이 가르치던 제자라는 사실이 큰 충격일 뿐더러, 강력한 처벌을 마냥 요구하기도 어렵다고 한다. 일부 교사는 사설업체에 성착취물 삭제를 의뢰하고 있다고도 전해졌다. 전교조가 27일부터 시작한 실태조사 결과, 28일 오전까지 텔레그램을 이용한 딥페이크 성착취물 피해 신고가 1400여건 접수됐다. 이 중 피해자가 교사인 경우는 절반가량에 달한다. 전교조는 접수된 피해 사례에 대해 사실 확인을 진행 중이다. 교육부는 17개 시도교육청에서 올해 1월부터 이달 27일까지 조사 결과 딥페이크 피해가 196건(학생 186건, 교원 10건)에 달한다고 발표했다. 교육부는 이 중 179건에 대해 수사를 의뢰했다. 실제로 최근 학교 현장에서 딥페이크 성착취물로 인해 피해를 봤다는 사례가 잇따라 보고되고 있지만, 교사의 피해 복구는 쉽지 않은 실정이다. 관련 피해자는 여성가족부 산하 한국여성인권진흥원 내 설치된 디지털성범죄피해자지원센터(디성센터)로 피해 상담을 접수할 수 있다. 이를 통해 성적 허위 영상물 관련 상담, 삭제지원 및 유포 여부 모니터링, 수사‧법률‧의료 지원 연계 등 종합적인 서비스를 받을 수 있다. 하지만 일부 교사들은 신고 자체에 부담을 느껴 사설업체를 찾는 것으로 알려졌다. 원치 않는 디지털 정보를 삭제해 주는 '디지털 장의사' 업체 관계자는 "국가기관에 의뢰하기보다는 조용히 영상물 등을 지우고 싶어 할 경우 사설업체를 찾는다"며 "최근 보도를 계기로 의뢰가 급증하진 않았지만, 이런 의뢰는 꾸준히 있었다"고 설명했다. -
당정, '딥페이크 범죄' 처벌 강화… "허위 영상물 처벌 징역 5년→7년"
정치 정치일반 2024.08.29 09:47:19당정이 ‘딥페이크’ 성범죄 발생을 막기 위해 허위영상물 처벌 기준을 5년에서 7년으로 확대하기로 했다. 국회에서도 제도적 미비를 보완하기 위한 입법에 나설 전망이다. 국민의힘과 정부는 29일 서울 여의도 국회에서 ‘딥페이크 성범죄 관련 부처 긴급 현안보고’를 열고 이같은 딥페이크 범죄 관련 대책을 제시했다. 한동훈 국민의힘 대표는 “21대 국회에서도 인공지능(AI) 기본법이나 성폭력범죄 특례법 등 딥페이크 기술 부작용을 막기 위한 법의 재개정 노력이 있었는데 만족할 만한 성과를 내지 못했다”며 “딥페이크 기술을 악용하는 것도 인간이지만 이를 막을 수 있는 것도 인간이다. 사회의 법과 제도 안에서 이 문제를 해결해내야 한다”고 말했다. 당정은 현행 성폭력처벌법상 5년 이하의 징역 또는 5000만 원 이하의 벌금을 받는 허위영상물 편집·반포 행위에 대한 처벌 상한 기준을 7년으로 강화하기로 했다. 최근 텔레그램을 통해 발생한 ‘딥페이크’ 범죄에 대해 김상훈 정책위의장은 “텔레그램을 통해 많이 유포되고 있는데, 불법 정보를 자율규제 할 수 있도록 정부 측이 핫라인을 확보하겠다고 했다”고 말했다. 범정부적인 딥페이크 성범죄 대응을 위해서는 국무조정실이 ‘딥페이크 성범죄 대응 통합 컨트롤타워’ 역할을 맡기로 했다. 김 의장은 “딥페이크 관련해 전체적으로 부처에서 각각 대응하고 있다는 느낌”이라며 딥페이크 범죄에 총괄적으로 대응해야 한다고 강조했다. 각 부처 차원에서도 범죄 대응에 나선다. 김 의장은 “또 중고등학생 사이에서 피해자가 급증하기 때문에, 교육부에서는 딥페이크 성범죄와 관련한 신고센터를 교육부 홈페이지 메뉴 창에 개설하기로 했다”고 전했다. 여성가족부에서는 피해자 구제 조치를 위해 디지털 성범죄 피해자 지원센터를 통한 피해자 상담, 허위영상물 삭제 지원 수사를 위한 법률자문 등을 실시하기로 했다. -
韓, 딥페이크 긴급 당정협의 개최…"악용도 막는 것도 인간"
정치 국회·정당·정책 2024.08.29 08:48:31한동훈 국민의힘 대표가 29일 딥페이크 성범죄 관련 긴급 당정협의회를 열고 “국회와 정부, 국민이 함께 관심 갖고 움직이면 이런 악성범죄를 막을 수 있다”고 말했다. 한 대표는 이날 오전 국회에서 열린 ‘딥페이크 성범죄 관련 부처 긴급 현안보고’에서 “딥페이크 기술을 악용하는 것도 인간이지만 이를 막을 수 있는 것도 인간이다. 사회의 법과 제도 안에서 이 문제를 해결해야 한다”며 이같이 강조했다. 그는 “피해자가 받았을 상처를 생각해보면 이 문제는 저희가 집중적으로 해결하고 나아가야 할 문제”라며 “오늘 부처 긴급보고는 이 사안과 유관한 부처들로부터 현안과 대응 상황을 확인하기 위한 것”이라고 설명했다. 이어 “21대 국회에서도 AI 기본법이나 성폭력 범죄 특례법 등 디지털 범죄 부작용을 막기 위한 법 재·개정 노력들이 있었는데 만족할 만한 성과를 내지 못했다”고 아쉬워했다. 추경호 원내대표는 “당은 이 사안의 심각성을 매우 크게 느끼고 있다. 당정이 함께 신속하게 딥페이크 성범죄 근절 대책 마련에 앞장설 것"이라며 “엄정하고 신속한 수사가 이뤄지고 더 이상 추가적 피해가 발생하지 않도록 범죄 대응력도 제고해야 한다”고 말했다. 정부에 디지털 성범죄 예방을 촉구한 추 원내대표는 “다만 이 과정에서 일각에서 우려하는 바와 같이 개인정보 보호 문제나 메신저 검열과 같은 과잉 규제가 없게 유념해 달라”고 덧붙였다. 그러면서 앞서 당론으로 발의한 워터마크 표시를 골자로 한 AI 기본법을 언급하며 “법이 조속히 통과된다면 사업자 대상 워터마크 부착 규제로 AI 신뢰 기반을 조성하는 데 기여하고 악용하는 이용자에 대한 처벌 방안도 개별적 차원에서 보완이 가능할 것”이라고 내다봤다. 김상훈 정책위의장도 “현재 국회에서 딥페이크 성범죄와 관련해 10여개 법안이 발의는 돼 있는 상태지만 본회의에서 아직 의결되지 않았다”며 “사실상의 입법 공백 상태”라고 진단했다. 그는 또 “우리나라는 딥페이크 게시물을 유포한 자에 대해서는 처벌 대상으로 삼고 있지만 제작한 사람은 처벌 대상에 아직 포함돼 있지 않다”며 “이런 입법 공백 사태 보완할 필요가 있고 또 처벌을 강화한다거나 피해자를 어떻게 구제할 수 있을지에 대한 대안들이 모색돼야 할 것”이라고 했다. 이날 정부에서는 신영숙 여성가족부 차관, 김태규 방송통신위원회 부위원장, 이호영 경찰청 차장, 박성민 교육부 기조실장, 송강 법무부 검찰국장, 송상훈 과학기술정보통신부 정보통신정책실장, 이동수 방송통심의위원회 디지털성범죄 심의국장 등이 참석했다. -
6개 여대 총학 ‘딥페이크 성착취’ 규탄…“뿌리 깊은 여성혐오가 만든 결과”
사회 사회일반 2024.08.29 06:06:04숙명여대 등 서울 지역 6개 여대 총학생회가 최근 논란을 빚고 있는 ‘딥페이크(인공지능 기반 이미지 합성) 성착취’ 사태와 관련해 “가부장제 사회 아래 뿌리 깊은 강간 문화와 여성혐오가 만들어낸 결과”라며 비판 성명을 냈다. 28일 숙명여대 총학생회 비상대책위원회(이하 비대위)는 이날 성명을 통해 “본 사태는 여성 성착취 범죄가 근본적으로 해결되지도, 근절되지도 않았기에 발생했다”며 “재발 방지 대책을 마련할 기회가 있었음에도 실질적인 대응을 하지 않은 모두가 방관자이자 가해자”라고 지적했다. 서명에는 숙명여대 내 60개 단체를 비롯해 성신여대·덕성여대·동덕여대·배화여대·한양여대 총학생회가 동참했다. 비대위는 ‘n번방’ 등 과거 발생했던 여성 대상 디지털 성범죄를 언급하며 “여성을 대상으로 한 디지털 성착취 범죄가 지속적이고 계획적으로 발생하는 이 사회에 통탄한다”고 밝혔다. 이어 “텔레그램 성착취 방의 가해자는 ‘개설자’만이 아니며, ‘참여자’뿐만 아니라 그 사실을 알면서도 묵인한 ‘방관자’ 역시 명백한 가해자”라고 짚었다. 이들은 “한국 사회의 방관과 침묵은 여성이 하나의 인격체가 아닌, 타 대상의 ‘놀잇감’으로 소비되도록 방조했다”며 “이는 ‘여성’을 성적 도구로 보고 멸시하는 문화를 고착화시켰다”고 목소리를 높였다. 이어 “오직 여성이기에 범죄의 대상이 되는 현 시점에서 여성에게 안전한 공간이란 존재하는가. 여성인 우리는 과연 어디서 살아가야 하는가”라고 규탄했다. 아울러 비대위는 “여성이 안전하게 지낼 공간은 소실된 채 무한한 디지털 공간에서 여성을 대상으로 한 무자비한 학살이 계속되고 있다”며 여성들의 존엄과 권리를 지키기 위해서는 연대가 절실히 필요한 때라고 강조했다. 한편 경찰은 이번 사태와 관련해 서울경찰청 사이버수사대 내에 태스크포스(TF)를 조직, 딥페이크 성착취 허위영상물 집중 대응에 나섰다고 밝혔다. TF는 총괄팀장인 서울경찰청 사이버수사과장을 필두로 3개 전담수사팀, 사이버프로파일링팀·디지털포렌식팀·지원부서팀까지 총 6개 팀으로 구성됐으며 내년 3월31일까지 7개월간 운영된다. -
경찰, 딥페이크 음란물 생성 ‘텔레그램 봇’ 8개 내사 착수
사회 사회일반 2024.08.29 04:00:00‘딥페이크(인공지능 기반 이미지 합성)’ 기술을 활용해 여성 얼굴에 음란물을 합성한 영상을 제작·유포하는 성범죄 피해가 속출하고 있는 가운데, 경찰이 관련 수사에 속도를 내고 있다. 28일 경찰에 따르면 서울경찰청 사이버수사대는 이날 기준 딥페이크 음란물을 자동 생성하는 텔레그램 프로그램(봇) 8개를 입건 전 조사(내사)에 착수했다. 지난 26일 22만7천여 명이 이용한 것으로 추정되는 텔레그램 봇 내사에 착수한 지 이틀만에 내사 대상이 8배로 늘어난 셈이다. 해당 봇은 텔레그램 채널에 탑재돼 있으며, 여성의 사진을 넣으면 이를 합성해 음란 이미지를 제작하는 역할을 한다. 경찰에 따르면 일부 채널은 가상화폐를 통해 불법합성물을 만들 수 있는 유료 수익 구조를 갖추고 있는 것으로 파악됐다. 경찰은 이들 봇을 운영하는 이들을 추적하는 한편 ‘겹지인방’ 등 해당 프로그램을 이용해 합성물을 만든 뒤 유포하는 텔레그램 단체방에 대해서도 살펴볼 예정이다. 경찰 관계자는 "적극적으로 첩보를 발굴하고 피해 사례 확인 시 즉각 수사에 착수해 신속 검거할 것"이라고 말했다. 경찰은 또 서울경찰청 사이버수사대 내에 태스크포스(TF)를 조직해 딥페이크 성범죄 등 허위영상물 집중 대응에 나섰다. TF는 총괄팀장인 서울경찰청 사이버수사과장을 필두로 3개 전담수사팀, 사이버프로파일링팀·디지털포렌식팀·지원부서팀까지 총 6개 팀으로 구성됐으며 내년 3월31일까지 7개월간 운영된다. 서울경찰청은 “허위영상물과 같은 디지털 성범죄는 피해자에게 씻을 수 없는 상처를 남기는 중대한 범죄”라며 “TF를 중심으로 딥페이크 등 허위영상물 성범죄를 제작부터 유포까지 근절하기 위해 최선의 노력을 다하겠다”고 전했다. -
네이버, 딥페이크 신고채널 공지
산업 IT 2024.08.29 01:35:17네이버가 최근 논란을 빚고 있는 '딥페이크 성범죄' 사태와 관련해 신고 접수 등 대응에 나섰다. 29일 플랫폼 업계에 따르면 네이버는 28일 고객센터 공지사항을 통해 "만약 딥페이크 기술을 사용해 성폭력처벌법 등 관련 법령을 위반하거나 제3자의 권리를 침해하는 이미지나 영상을 발견하셨다면 아래의 신고 채널을 통해 접수해 주시기 바란다"며 관련 링크를 안내했다. 네이버는 고객센터뿐 아니라 게시물 신고센터, 그린UGC 공식 블로그를 통해서도 딥페이크 유포에 대한 주의 및 신고를 당부했다. 네이버는 "딥페이크 기술을 악용한 범죄 행위는 심각한 법적 처벌을 받을 수 있다"며 "타인의 콘텐츠를 단순히 게시하거나 유통하더라도 해당 콘텐츠가 딥페이크나 생성형 인공지능(AI) 등을 이용한 경우 문제가 될 수 있기 때문에 각별한 주의가 필요하다"고 강조했다. 이어 "딥페이크 기술을 악용한 디지털 성범죄와 관련해 네이버는 이용자 여러분의 안전과 개인정보 보호를 최우선으로 생각한다"고 전했다. -
여교사들 ‘딥페이크’ 성범죄물 제작해 유포한 남고생 ‘덜미’
사회 사회일반 2024.08.28 22:45:25‘딥페이크(인공지능 기반 이미지 합성)’ 기술을 활용해 여교사들의 얼굴을 나체 사진에 합성한 뒤 사회관계망서비스(SNS)에서 유포한 고등학생이 경찰에 붙잡혔다. 인천 남동경찰서는 성폭력범죄의 처벌 등에 관한 특례법 위반 혐의로 고등학생인 10대 A군을 수사하고 있다고 28일 밝혔다. A군은 지난달 인공지능(AI)을 이용한 딥페이크 기술로 고등학교 여교사 2명의 얼굴을 나체 사진에 합성한 뒤 SNS에서 유포한 혐의를 받는다. 경찰은 앞서 피해 여교사 2명의 진정서를 접수하고 수사를 벌여 성범죄물 제작·유포자로 A군을 특정했다. 경찰은 A군이 주로 모바일 메신저 ‘텔레그램’을 통해 성범죄물을 유포한 것으로 보고 디지털 포렌식을 통해 구체적인 범행 경위를 조사하고 있다. 경찰 관계자는 “추가 피해자가 있는지도 확인하고 있다”며 “포렌식 작업을 마치는 대로 A군을 불러 조사할 계획”이라고 전했다. 한편 최근 텔레그램 내에서 학생을 비롯해 군인 등 여성에 대한 불법 합성물들이 무차별적으로 확산하고 있는 것으로 드러났다. 여성가족부 산하 한국여성인권진흥원에 따르면 올해 1월1일부터 8월25일까지 디지털성범죄피해자지원센터로부터 딥페이크 피해 지원을 요청한 781명 가운데 37%(288명)는 10대 이하였다. 교육부가 17개 시도교육청을 통해 파악한 결과, 올해 1월부터 지난 27일까지 집계된 학생·교원 딥페이크 피해 건수는 총 196건(학생 186건, 교원 10건)이다. 중학교 피해가 100건으로 가장 많았으며 고등학교는 78건, 초등학교는 8건이다.
오늘의 핫토픽
이시간 주요 뉴스
영상 뉴스
서경스페셜
주소 : 서울특별시 종로구 율곡로 6 트윈트리타워 B동 14~16층 대표전화 : 02) 724-8600
상호 : 서울경제신문사업자번호 : 208-81-10310대표자 : 손동영등록번호 : 서울 가 00224등록일자 : 1988.05.13
인터넷신문 등록번호 : 서울 아04065 등록일자 : 2016.04.26발행일자 : 2016.04.01발행 ·편집인 : 손동영청소년보호책임자 : 신한수
서울경제의 모든 콘텐트는 저작권법의 보호를 받는 바, 무단 전재·복사·배포 등은 법적 제재를 받을 수 있습니다.
Copyright ⓒ Sedaily, All right reserved
서울경제를 팔로우하세요!
서울경제신문
텔레그램 뉴스채널
서경 마켓시그널
헬로홈즈
미미상인