인공지능(AI)이 의료 분야에서 혁신적 성과를 보이는 가운데, 잘못된 AI 조언으로 인한 심각한 부작용 사례가 나왔다.
최근 '내과 연대기 임상 사례'에 게재된 보고서에는 챗GPT의 식단 조언을 따른 60세 남성이 브롬중독으로 응급실에 실려간 사례를 상세히 분석했다.
영양학을 전공한 이 남성은 소금의 건강 위험성에 대한 문헌을 접한 후 염화물 제거 실험을 시도했다. 그는 챗GPT에 염화물 대체재를 문의했고, 브롬화물로 대체 가능하다는 답변을 받았다. 미국 워싱턴대 연구진은 "이러한 대체 조언은 세척 용도 맥락에서만 유효할 가능성이 높다"고 지적했다. 식단 내 염화물은 혈액량과 혈압 유지에 필수적이며, 수치 이상은 심각한 건강 문제를 야기한다.
연구진이 동일한 질문을 챗GPT에 던진 결과, 브롬화물 사용을 제안하는 답변을 확인했다. 연구진은 "챗GPT가 맥락의 중요성을 언급했으나, 구체적 건강 경고나 질문 배경에 대한 추가 확인을 하지 않았다"고 분석했다. 이는 AI가 제공하는 정보의 맥락적 한계를 보여주는 대표적 사례로 평가된다.
3개월간 소금 대신 온라인 구매한 브롬화나트륨을 섭취한 남성은 이웃이 자신을 독살한다는 편집증에 사로잡혀 응급실에 신고됐다. 검사 결과 혈중 이산화탄소 농도와 알칼리도가 상승했으며, 염화물 수치는 높았으나 나트륨은 정상 범위였다. 추가 검사에서 '가성고염소혈증'이 확인됐는데, 이는 다량의 브롬화물이 실험실 염화물 측정을 방해해 잘못된 결과를 낳은 것이다.
담당 의사는 의학 문헌 검토를 통해 브롬중독증으로 최종 진단했다. 브롬화물은 19-20세기 진정제, 항경련제, 수면제로 광범위하게 사용됐으나, 만성 노출 시 중독을 유발한다는 사실이 밝혀졌다. 브롬중독은 정신병, 조증, 망상 등 신경정신과적 증상과 함께 기억력, 사고력, 근육 조절 능력 저하를 초래한다. 브롬화물이 장기간 체내 축적되면서 신경 기능을 손상시키기 때문이다.
입원 후 남성의 편집증은 더욱 악화됐고 환각 증상이 나타났다. 병원 탈출을 시도한 그는 정신과로 이송돼 치료를 받았다. 상태 호전 후 그는 챗GPT 사용 사실을 의료진에게 알렸다. 3주간 치료 후 퇴원한 남성은 2주 후 재진에서 안정적인 상태를 보였다.
이번 사례는 AI 의료 활용의 양면성을 극명하게 드러낸다. AI는 질병 조기 발견, 불임 치료 등에서 혁신적 성과를 보이며 의료진과 환자를 연결하는 강력한 도구로 주목받고 있다. 하지만 맥락을 벗어난 정보 제공 시 생명을 위협하는 결과를 초래할 수 있다는 위험성도 동시에 확인됐다.
연구진은 "AI는 과학자와 일반 대중을 연결하는 큰 잠재력을 가진 도구이지만, 맥락에서 벗어난 정보 유포 위험을 안고 있다"고 결론지었다. 이는 AI 의료 서비스 도입 시 안전장치 마련과 사용자 교육이 필수적임을 시사한다. 특히 건강 관련 AI 조언은 반드시 의료 전문가의 검증을 거쳐야 한다는 원칙이 더욱 중요해졌다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
sunshine@sedaily.com
