‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)’이 국회 본회의 통과·공포돼 오는 2026년 1월 22일부터 시행된다. 인공지능 관련 법안이 시행되는 건 유럽연합(EU)에 이어 전세계에서 두 번째다. EU가 지난 해부터 도입한 ‘EU 인공지능법(AI Act)’은 AI 시스템의 위험수준에 따라 4가지로 분류한다. 또 고위험 AI시스템에 엄격한 규제를 적용하고, 이를 위반할 경우 최대 연 매출의 7%까지 과징금을 부과할 수 있는 강력한 규제다. 이에 반해 AI기본법은 보다 완화된 규제와 함께 AI산업 육성에 관한 내용을 담고 있다.
완화된 규제라 할지라도 EU에 비해 완화된 것일 뿐, 국내 AI를 기반으로 하는 서비스를 운영하는 기업이라면 다가오는 AI기본법의 적용대상인지 여부를 사전에 검토하고 대비할 필요가 있다. 현재 AI기본법은 ‘고영향 인공지능’과 ‘생성형 인공지능’ 둘 중 하나라도 서비스하는 사업자에게 △해당 서비스가 AI 기반으로 운용된다는 사실을 사전에 고지할 의무 △생성형 인공지능의 경우 결과물이 AI에 의해 생성되었다는 사실을 표시할 의무 △딥페이크 결과물 제공시 해당 결과물이 AI에 의해 생성되었다는 사실을 명확하게 고지·표시할 의무와 같은 투명성 확보 의무를 부여한다. 이들 의무 가운데에는 규모에 따라 안전성 확보도 포함된다. 특히 ‘고영향 인공지능’ 사업자에게는 AI 설명방안 수립 및 시행, 이용자 보호방안의 수립 및 운영의무 등 보다 높은 정도의 안전성, 신뢰성 확보의무를 부여하고 있기 때문에 AI 관련 기업은 자신이 ‘고영향 인공지능’을 제공하고 있는지 여부를 체크해야 한다. ‘고영향 인공지능’이란 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템으로서 법에서 열거하는 영역 중 하나에 활용되는 것을 의미한다. 의료, 자율주행 등 모빌리티, 금융, 에너지 등 분야가 현재 열거되어 있고 추후 ‘중대한 영향’이 어디까지인지에 따라 적용대상이 확장될 것으로 보인다. 만일 AI사업자가 의무를 이행하지 않을 경우 과학기술정보통신부로부터 사실 조사를 받게 된다. 또 조사 결과에 따라 과태료를 부과 받게 될 수도 있다.
현재 AI 기본법은 지난1월 하위법령 정비단이 출범해 향후 정부의 구체적인 AI 산업 진흥 방안과 지원 정책, ‘고영향 인공지능’의 범위, AI 이용사업자와 AI 개발사업자에 대한 구체적 의무 및 책임 분배, 인공지능사업자가 부담하는 의무의 세부 사항 등이 마련될 예정이다. AI 사업자로서는 이와 관련된 정부의 정책 수립 동향이나 세부 법령 등의 제정 동향 등을 모니터링하고 준비할 필요가 있을 것이다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
s4our@sedaily.com
