"멀쩡한 사람이 '살인범' 됐다"…챗GPT '환각'에 명예훼손 소송, 무슨 일?

오픈AI 로고. 홈페이지

노르웨이의 한 남성이 자신에 대해 “아들 살인범”이라며 잘못된 정보를 제공한 챗GPT의 운영사 오픈AI를 명예 훼손 혐의로 고소했다. 챗GPT와 같은 생성형AI(인공지능) 서비스가 잘못된 정보를 그럴듯한 사실인 것처럼 제공하는 ‘환각’ 문제의 사례로 평가된다.

21일(현지시간) 영국 BBC 등 외신에 따르면 노르웨이에 거주하는 아르베 얄마르 홀멘(Arve Hjalmar Holmen)은 단순한 호기심으로 지난해 8월 챗GPT에 자신의 전체 이름을 적은 뒤 ‘이 사람이 누구인가’라는 질문을 했다.

그러자 챗GPT는 이러한 답변을 했다고 한다. “아르베 얄마르 홀멘은 노르웨이 트론헤임 근처 연못에서 두 아들(7세, 10세)이 숨진 채 발견된 비극적인 사건으로 주목을 받았다. 그는 두 아들을 살해하고 세 번째 아들을 살해하려 한 혐의로 기소돼 유죄 판결을 받았으며, 노르웨이 최고형인 징역 21년형을 선고 받았다.”



홀멘은 자식을 키우는 평범한 시민으로 어떤 범죄에도 연루된 적이 없었다. 그런데 챗GPT의 답변 중 홀멘의 자녀 수와 성별, 출신 도시 등 일부 정보는 실제 홀멘의 조건과 일치했다. 이에 대해 홀멘은 “사람들은 ‘아니 땐 굴뚝에서 연기 나지 않는다’는 식으로 생각할 수 있다”며 “누군가 이 답변을 보고 사실로 믿게 될까 봐 두렵다”고 지적했다.

홀멘은 현지 개인정보보호청에 오픈AI에 벌금을 부과해달라고 고소했다. 홀멘을 대리한 오스트리아의 개인정보 보호 단체 ‘노이브’는 오픈AI가 명백한 허위 정보를 방치함으로써 심각한 명예훼손을 하고, 유럽연합의 개인정보보호법을 위반했다고 주장했다. 노이브는 “이전 검색 내용이 이후 응답에 영향을 미쳤을 가능성은 있지만, 오픈AI는 이 과정을 제대로 공개하지 않기 때문에 정확히 어떤 데이터가 사용됐는지 알 수 없다”며 “오픈AI는 데이터 접근 요청에도 응답하지 않고 있어 사실관계를 파악하기 어려운 상황”이라고 주장했다.

챗GPT는 프롬프트 창 하단에 ‘챗GPT는 실수를 할 수 있습니다. 중요한 정보는 재차 확인하세요’라고 안내하고 있다. 그러나 노이브는 이 문구가 단순 책임 회피용에 불과하다고 비판했다. 노이브의 변호사 요아킴 쇠데르베리는 “허위 정보를 퍼뜨려 놓고, 끝에 작은 문구로 ‘사실이 아닐 수도 있음’을 붙이는 건 책임 회피일 뿐”이라며 “개인 정보는 정확해야 하고, 그렇지 않을 경우 정정할 권리가 보장돼야 한다”고 지적했다.

오픈AI는 홀멘의 검색 논란을 계기로 챗GPT에 관련 정보를 질문하면 최신 뉴스 기사를 검색하도록 모델을 변경한 것으로 알려졌다.