현재 인기리에 방영 중인 온라인동영상서비스(OTT) 넷플릭스 시리즈 ‘중증외상센터’의 주인공 백강혁은 환자의 끊어진 신경 다발을 무리 없이 봉합하는가 하면 난이도가 높은 뇌압강하술을 수술실도 아닌 헬기 위에서 진행한다. 초감각을 가진 이 의사가 그리 낯설지 않은 이유는 현실세계에서 이미 활약을 펼치고 있는 인공지능(AI) 때문이다.
AI는 딥러닝의 발전 이후 최근 10여년 간 인간 사회에서 누구도 해내지 못했던 일을 해내고 있다. 인간과 달리 감정과 외부적 환경에 휘둘리지 않고 기복 없이 꾸준한 성과를 낸다. 특히 의료 분야에서 그 영향력은 압도적이다. 구글의 자회사 딥마인드가 개발한 ‘알파폴드’는 수억 개의 단백질 구조를 해독한 성취로 그 개발 책임자 데미스 허사비스가 지난해 노벨 화학상을 수상하기도 했다.
다만 이러한 압도적 성취에도 불구하고 한 가지 의심은 남는다. ‘AI는 도덕적 판단도 할 수 있는 존재인가’는 질문 때문이다. 이를 테면 신장 이식 수술을 예로 들어보자. AI는 무리 없이 환자들을 분류하고 이들에 맞는 최적화된 이식 방법을 채택해 수술을 진행할 수 있지만 과연 어떤 환자를 살릴 것이냐는 도덕적 판단을 맡기기에는 무리가 있다. 철학자이자 윤리학자인 월터 시넛-암스트롱 미국 듀크대 교수는 신경과학자인 재나 셰익 보그, 컴퓨터 과학자 빈센트 코니처와 함께 집필한 신간 ‘도덕적인 AI(원제 Moral AI)’를 통해 이 같은 상황에서 AI에게 윤리성을 도입하는 가설을 세워본다.
이를 테면 상향식 도덕성 접근법이 있다. 일반적인 규칙을 세우는 대신 도덕적으로 선함 여부를 결정하는 구체적인 사례를 통해 AI가 도덕성을 학습하게 하는 것이다. 이를 테면 환자의 신장 상태, 기대 수명, 대기 기간 등을 일반적으로 누구나 동의하는 신장 이식자 결정에 중요한 요소다. 하지만 이후 윤리적인 판단은 엇갈린다. 신장 이식 대기자의 과거 흡연이나 악물 복용 여부, 부양 가족 수, 경제 활동 여부 등도 논쟁적인 부분이다. 여기에 대기자의 성별, 인종, 국적, 종교를 추가로 고려하면 어떨까. 어떤 요소들을 기준의 데이터로 추가하느냐에 따라 결과가 크게 갈릴 수 있는 부분이다. 특히 사례들을 바탕으로 강화 학습이 가능한 상향식 접근법은 상대적으로 데이터가 적은 성별, 인종 등을 배제할 가능성이 높다.
저자들이 내놓는 대안은 원칙과 실천 사이의 간극을 메우는 데 있다. 신장 이식 대상을 정할 때도 사회적 합의를 ‘크라우드 소싱’해 하나의 사회적 합의를 이룰 것을 강조한다. 이를 위해 도덕적인 AI 기술 도구를 만들고 이를 AI 모델의 개발, 배포 과정에서 활용되도록 하자는 것. 나아가 도덕적인 AI를 구현하는 게 제품의 개발 과정에서 중요한 영향력을 발휘하도록 조직 문화와 제품 개발 공정을 새롭게 짤 수 있도록 했다. 나아가 최고보안책임자처럼 도덕적인 AI 구현에 책임을 지는 책임자를 둘 것을 법으로 강제하는 것이다.
다만 이상적으로는 문제 없는 강령이지만 실현되기에는 한계점이 있다. AI에 대한 낙관론과 비관론이 둘 다 필요하다고 강조하는 저자는 비관론의 이유로는 AI 모델이 ‘빨리 실패하고 자주 실패하라’는 기조 속에 만들어진다는 점을 태생적 한계로 짚었다.AI 프로젝트 10건 중 8건은 성공하지 못하거나 수익을 내지 못하기 때문에 완성도보다는 속도전이 중시 될 수밖에 없다. 언제든 수정 가능한 미완성의 버전으로 내놓은 뒤 사용성을 개선하는 특성상 윤리적 판단은 후순위로 밀려난다는 것이다.
이를 테면 최근 미국 엔비디아의 시가총액 880조 원을 증발하게 한 중국의 AI 업체 딥시크의 모델 ‘R1’의 경우 특정 성능에서 우위가 있다는 점이 공개된 것만으로 시장에 큰 파급을 준 것이 그 사례다. 알고리즘의 편향 여부 등 ‘R1’의 한계점은 아직 파악되지도 않았다.
그럼에도 AI는 계속해서 실제 생활에 쓰이고 있고 윤리적 판단을 손 놓고 있을 수록 그 모든 대가는 인간사회가 치를 수밖에 없다는 게 저자가 AI의 윤리에도 속도전을 주장하는 이유다. 2만 2000원.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
madein@sedaily.com
