머신러닝을 수행할 신경망의 구조를 결정하는 최적의 시스템 변수를 찾는 것은 그리 쉽지 않다. 학습 데이터에 잡음이 있거나 약한 알고리즘을 적용했기 때문이 아니라 시스템 변수를 제대로 설정하지 못해 학습 결과가 신통치 못한 경우도 종종 있다. 이 문제를 해결하기 위한 많은 방법이 발표됐으며 그중 주목받는 유전 알고리즘(genetic algorithm)에 대해 살펴보자.
유전 알고리즘은 종국에 살아남는 것은 변화에 가장 잘 적응하는 종이라는 다윈의 적자생존 이론에 기반을 두고 있으며 1970년대 미국의 존 홀랜드 교수가 진화 원리에서 발견된 특징들을 컴퓨터 알고리즘과 결합해 복잡한 최적화 문제를 해결하는 기법으로 개발했다. 환경이 매우 복잡하거나 부분적으로만 알려진 경우에도 적용이 가능하기 때문에 실제 현실의 다양한 분야에 적용되고 있으며 특정 문제를 풀기 위한 알고리즘이라기보다는 최적 혹은 최적에 가까운 답을 찾기 위한 접근법으로 볼 수 있다.
다윈 이론을 유전 알고리즘 관점에서 필요한 개념 위주로 간략하게 정리하면 다음과 같다. 환경에 잘 적응하는 우수한 형질을 가진 부모들이 우선적으로 선택되고 교배를 통해 자손들에게 그 형질이 전달되며 때로는 돌연변이를 통해 부모를 뛰어넘기도 한다. 세대를 거치면서 이 과정을 반복하면 결국 환경에 잘 적응하는 우수한 형질만 남게 된다.
아무리 복잡한 문제도‘답’에 가까운 해결책 제시
데이터 누적될수록 소요시간 감소·적합도 상승
‘환경에 잘 적응하는 우수한 형질’은 유전 알고리즘에서는 적합의 정도를 나타내는 ‘적합 함수’로 표현되며 최적의 해를 찾아가는 과정은 다음과 같다. 먼저 해결할 문제의 다양한 해의 집합을 정의하며 이것은 세대가 된다. 이 집합에서 적합 함수를 기준으로 부모를 선택하고 교배와 돌연변이 연산자를 적절하게 적용해 자식을 결정한다. 자식 세대는 부모 세대보다 적합도가 증가하며 세대를 반복하면 최적에 가까운 해를 구할 수 있게 된다.
예를 들어 50개의 자판이 있는 키보드를 원숭이가 무작위로 여섯 번을 쳐서 ‘banana’라는 단어를 나올 때까지 걸리는 시간은 백 년 이상이 걸릴 수도 있다. 여기에 유전 알고리즘을 적용한다면, 최초의 부모 세대에 해당하는 임의의 여섯 글자를 갖는 집합을 만들고 banana에 있는 알파벳이 몇 개나 포함됐는지를 적합 함수로 정한다. 적합도가 높은 글자들끼리 선택해 교배와 돌연변이 연산을 실행하면 세대를 거듭할수록 banana에 근접한 결과가 나오며 원숭이가 무작위로 자판을 친 것과는 비교도 안 될 정도의 적은 시도만으로 원하는 결과를 얻을 수 있게 된다.
이처럼 유전 알고리즘은 직관적이며 이전 시도에서의 결과를 고려해 다음 시도를 정하기 때문에 탐색이나 최적화에 매우 효율적이다. 그래서 최적화 문제가 중요한 로봇 이동경로 탐색, 강화 학습이나 자동 머신러닝과 같은 인공지능(AI) 분야에서 많이 사용되며, 주목을 받는 것은 당연하다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
