GPT를 비롯한 생성형 인공지능(AI)에 성인 콘텐츠가 도입하려는 움직임이 확산하면서 논쟁이 벌어지고 있다. 과거 영상물을 비롯한 미디어 제작사들이 성인물을 도입했듯이 AI도 유료 구독자 확보에 나선 것인데 앞으로 성희롱과 같은 법적·윤리적 문제가 뒤따를 것이 뻔하다는 우려가 커지고 있기 때문이다. 특히 AI 챗봇이 최근 아동·청소년의 극단적 선택을 방치했다는 책임론이 제기되는 가운데 성인 콘텐츠가 도입될 경우 미성년자들의 유해 콘텐츠 노출도 심각해질 수 있다는 지적이 나온다.
샘 올트먼 오픈AI 최고경영자(CEO)는 14일(현지 시간) 소셜미디어(SNS) X를 통해 올해 12월부터 '성인 이용자는 성인답게 대하자'는 원칙에 따라 성인 인증 사용자들이 성애물(erotica)을 이용할 수 있도록 할 방침이라고 밝혔다.
올트먼 CEO는 "몇 주 내로 새로운 버전의 챗GPT를 출시할 계획"이라며 "당신이 만약 챗GPT가 사람처럼 더 자연스럽게 대화하길 원하거나 친구처럼 말해주길 원한다면 그렇게 할 수 있도록 할 것"이라고 썼다. 이어 "12월에는 연령 제한 기능을 더 완전히 도입하면서 '성인 이용자는 성인답게 대하자'는 원칙에 따라 (연령이) 인증된 성인에게는 성애 콘텐츠(erotica) 같은 훨씬 더 많은 것을 허용할 것"이라고 설명했다.
AI 서비스 기업들은 유료 사용자 확보를 위해 앞다퉈 성인용 서비스를 내놓고 있다. 일론 머스크가 세운 xAI는 올해 7월부터 자사 서비스 그록(Grok)에서 '애니'(Ani) 등 노골적 성 표현이 담긴(sexually explicit) 대화가 가능한 챗봇을 이용할 수 있도록 하고 있다.
이 같은 움직임은 최근 오픈AI가 10대 청소년의 극단적 선택을 방조했다는 책임론이 커지는 상황에서 나왔다. 캘리포니아주 10대 부모는 아들 죽음에 챗GPT가 책임이 있다며 오픈AI와 샘 올트먼 최고경영자(CEO)를 상대로 소송을 제기했다. 아들이 챗GPT에서 극단 선택 방법을 검색하고 극단 선택을 했다는 주장이다. 미국 연방거래위원회(FTC)가 청소년 안전 실태 조사를 시작하며 대책 마련을 압박하자 오픈AI는 18세 미만 전용 챗GPT를 출시했다.
오픈AI가 성인과 미성년을 구분하면서 유료 사용자를 확보하기 위해 성애물 허용에 나섰지만 이를 두고 우려의 목소리가 커지고 있다. 미국 정치 전문 온라인매체 악시오스는 오픈AI의 이번 조치가 챗봇 유료 구독자를 늘리는 데에는 도움이 될 수 있지만, 이를 계기로 관련 규제를 법제화하라는 압박이 입법부 의원들에게 가중될 수 있다고 지적했다. 역사적으로 비디오카세트레코더(VCR), 디지털 비디오, 상호작용형 게임에서 성인물이 문제가 됐던 것처럼 AI에서도 규제가 불가피할 것이라는 이야기다.
특히 AI 챗봇 사용이 급증하는 상황에서 미성년 자녀를 둔 부모들의 고민이 깊어질 수 있다. 로펌 '보이스 실러 플렉스너'의 파트너인 제니 킴 변호사는 BBC방송에 "(AI 서비스가 제공하는 성애물에 대한) 아동들의 접근을 도대체 어떻게 막겠다는 것이냐"라며 "연령에 따른 서비스 차등 제공이 제대로 될 것인지 여부조차 모르는 상황"이라고 지적했다. 앞서 테크크런치는 오픈AI가 미성년자 계정에서도 성애물이 생성되도록 방치하고 있다고 보도했다.
미국 캘리포니아주가 아동·청소년의 인공지능(AI) 챗봇 이용을 규제하는 법안을 처음으로 제정하는 등 규제 움직임이 커지고 있다. 내년 1월 1일부터 발효되는 이 법안은 AI 챗봇 운영 기업에 플랫폼 이용자의 연령 확인 기능과 함께 AI 챗봇의 모든 답변이 인공적으로 생성된 것임을 명확히 표시하는 기능 등을 갖추도록 의무화했다. 또 챗봇 플랫폼이 이용자의 자살 충동이나 자해 표현을 식별하고 대응할 수 있는 장치를 마련하고, 챗봇이 생성한 노골적인 성적 이미지를 미성년자가 볼 수 없도록 했다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
kcy@sedaily.com
