금융 AI 7대 원칙 시행, 경영진 책임·보안 기준 세웠다

한국금융연구원은 최근 발간한 ‘금융회사의 AI 거버넌스 구축을 위한 정책과제’ 보고서에서 금융회사의 인공지능(AI) 활용 확대에 맞춰 경영진 책임과 보안, 소비자 보호를 아우르는 관리체계가 필요하다고 밝혔다. 금융분야 인공지능 가이드라인은 6월 22일 시행됐다.

금융위원회는 6월 18일 금융권 인공지능 전환 현장 간담회에서 가이드라인 개정안을 발표했다. 업종이나 업무와 관계없이 AI를 활용하는 모든 금융회사가 참고할 수 있는 자율규제로 설계했다.

개정안은 △거버넌스 △합법성 △보조수단성 △신뢰성 △금융안정성 △신의성실 △보안성 등 7대 원칙을 제시했다. 거버넌스 원칙은 최고경영자를 포함한 경영진이 AI 개발·활용 과정의 역할과 책임을 나누고 의사결정기구와 전담조직, 내부 규정을 마련하도록 했다.

보조수단성 원칙은 현 단계에서 AI를 업무 보조수단으로 규정하고 최종 의사결정과 책임을 임직원이 맡도록 했다. 금융상품 추천과 가입, 결제처럼 소비자의 의사결정에 영향을 줄 수 있는 업무에서 책임 소재가 불분명해지는 상황을 막으려는 취지다.

금융회사들은 대고객 챗봇과 내부 업무 효율화뿐 아니라 고객정보와 리스크, 데이터 분석에도 AI를 활용하고 있다. 일부 회사는 AI 에이전트를 의사결정 보조수단으로 운용하고 있다고 설명했다.

외부 서비스 확대에는 망분리와 데이터 규제, 접근매체 인증, 책임 소재, 업종 분류 등 제약이 남아 있다. 금융위는 AI 학습과 관련한 개인신용정보 동의제도와 데이터 가명처리 규제를 정비하고 AI의 행위 기준과 책임체계를 검토하기로 했다.

금융위는 5월 26일 공개한 자료에서 보안 목적의 AI 활용에 한해 망분리 규제를 긴급 완화하는 방안을 제시했다. 일정한 보안 역량을 갖춘 금융회사가 신청하면 전문가 평가와 금융위 보고, 비조치의견서 발급 등을 거쳐 규제를 한시적으로 완화하는 방식이다.

금융보안원은 금융 AI의 안전성과 신뢰성을 점검할 평가체계도 제시했다. 평가기준 초안에는 △모델 성능 관리 △데이터 품질 △공정성과 편향성 △설명 가능성 △AI 특화 보안위협 △외부 모델·데이터 검증 △공급망 보안 등이 포함됐다.

금융회사는 AI에 사용하는 데이터와 모델 성능의 중단 기준, 소비자 이의 제기 시 설명 절차 등을 내부 규정으로 정해야 한다. AI 거버넌스가 기술 부서를 넘어 이사회와 경영진의 관리 대상으로 확대된 것이다.

금융위는 하반기부터 제도 개선이 필요한 사항과 AI 도입 시 위험관리 방안, AI 에이전트 시험을 위한 시범사업 운영방안을 검토할 계획이다. 금융보안원도 하반기 중 금융회사의 신청을 받아 AI 안전성과 신뢰성 시범평가를 실시할 예정이다.