금융권, AI 모형위험관리 체계 확대 필요성 대두

금융권의 인공지능 활용이 빠르게 늘어나면서, 금융회사들이 써 온 모형위험관리 체계를 인공지능까지 넓혀 적용해야 한다는 제언이 나왔다. 인공지능이 대출 심사, 이상거래 탐지, 자산관리 같은 핵심 업무에 깊게 들어오고 있는 만큼, 단순한 기술 활용을 넘어 결과의 신뢰성과 통제 가능성을 함께 관리해야 한다는 취지다.

한국금융연구원 연태훈 선임연구위원은 7일 내놓은 ‘금융권 AI 활용에 대한 규제 체계의 구축’ 보고서에서 금융권 인공지능 규제 방식을 크게 세 갈래로 나눴다. 법률로 직접 부작용을 통제하는 방식, 정부나 민간이 산업별 가이드라인을 만들어 자율규제를 유도하는 방식, 그리고 기존 금융권의 모형위험관리 체계를 인공지능에 확대 적용하는 방식이다. 이 가운데 연 연구위원은 세 번째 방식이 실제 현장에서 가장 실행 가능성이 높고, 통제 절차도 비교적 잘 갖춘 방안이라고 평가했다.

모형위험관리란 금융회사가 사용하는 각종 예측·판단 모형이 잘못 작동할 때 생길 수 있는 위험을 줄이기 위한 관리 체계다. 여기에는 어떤 모형을 쓰는지 식별하고 성능을 평가하는 절차, 위험등급 부여, 문서화, 실제 사용 전 시험, 도입 후 지속적인 점검과 감사, 전담 조직 운영 등이 포함된다. 쉽게 말해 “이 인공지능이 왜 이런 결론을 냈는지”, “현장에 투입해도 문제가 없는지”, “시간이 지나도 성능이 유지되는지”를 체계적으로 확인하는 장치다. 연 연구위원은 입법 중심 규제는 금융산업 특유의 복잡한 위험을 세밀하게 반영하기 어렵고, 자율규제 방식은 감독당국과의 소통이나 외부 검증이 필요한 상황에서 한계가 있을 수 있다고 봤다.

해외 주요국은 이미 이런 방향으로 움직이고 있다. 미국, 영국, 캐나다 등은 기존 모형위험관리 원칙을 인공지능까지 확장하는 흐름을 보이고 있다. 반면 국내는 올해 인공지능 기본법 시행에 맞춰 관련 규제가 도입되고 있지만, 금융권 전반에 공통으로 적용할 수 있는 모형위험관리 가이드라인은 아직 마련되지 않았다. 연 연구위원은 현재 국내 인공지능 규제체계와 모형위험관리 사이에 일부 겹치는 부분은 있지만, 모형위험관리가 더 포괄적이고 구체적인 내용을 담고 있다고 설명했다.

그는 인공지능 기본법의 감독 규정과 현재 추진 중인 인공지능 위험관리 가이드라인을 예정대로 추진하는 한편, 해외 금융권 사례를 참고해 보다 세밀한 금융권용 관리 체계를 구축할 필요가 있다고 강조했다. 아울러 인공지능뿐 아니라 비인공지능 모형까지 함께 포괄하는 관리 체계를 도입해야 규제의 빈틈을 줄일 수 있다고 덧붙였다. 이 같은 흐름은 앞으로 금융권 규제가 기술 자체를 막기보다, 알고리즘의 투명성·검증 가능성·책임성까지 함께 따지는 방향으로 이어질 가능성이 있다.