금융권 AI 경쟁, 성능보다 ‘신뢰’가 승부처로

금융 서비스가 더 ‘개인화’되고 자동화되며 AI 중심으로 재편되고 있다. 다만 실제 확산의 최대 걸림돌은 기술력 자체보다 ‘신뢰’라는 지적이 나온다. 민감한 금융 데이터를 다루는 업계 특성상 작은 오류도 허용되기 어렵고, AI가 어떤 데이터를 바탕으로 어떤 결론을 냈는지 설명할 수 있어야 하기 때문이다.

최근 AWS 금융 서비스 심포지엄을 앞두고 공개된 업계 논의에 따르면, 금융사들의 관심은 더 큰 AI 모델 개발보다 ‘믿을 수 있는 시스템’ 구축으로 옮겨가고 있다. 은행과 자본시장 기업, 보험사는 AI 도입 속도를 높이고 있지만, 데이터 품질과 거버넌스, 규제 대응 체계를 갖추지 못하면 실질적 성과로 이어지기 어렵다는 평가다.

더큐브 수석 애널리스트 롭 스트레카이는 금융 서비스의 ‘에이전트형 AI’가 더 이상 가장 큰 모델을 만드는 경쟁이 아니라고 짚었다. 그는 핵심 과제로 데이터 접근 권한, 저장 위치, 의사결정 설명 가능성, 위험 통제를 꼽으며, 성공하는 기업은 AI를 단순한 모델 문제가 아니라 ‘데이터 플랫폼 아키텍처’ 문제로 다뤄야 한다고 진단했다.

금융사 67%, AI에 쓰는 수익 데이터조차 못 믿는다

시장 불신은 숫자로도 확인된다. 관련 조사에서는 기업의 67%가 AI 활용과 관련해 자사 수익 데이터의 신뢰성을 확신하지 못한다고 답했다. 미국 소비자 사이에서도 AI 기반 금융 서비스에 대한 우려가 큰 것으로 나타났으며, 개인정보 보호와 투명성이 여전히 최우선 기준으로 꼽힌다.

더큐브의 스콧 헵너 수석 애널리스트는 현재 AI가 답변을 만들어낼 수는 있지만, 금융사가 외부에 방어 가능한 ‘판단’과 ‘의사결정’을 내릴 수 있느냐가 더 중요하다고 강조했다. 결국 금융권에서 AI 투자 수익률을 좌우하는 통화는 ‘신뢰’가 됐다는 설명이다.

아타카마의 금융서비스 부문 최고데이터책임자 래리 헌트 역시 소비자 신뢰를 높이는 핵심 요인으로 ‘데이터 신뢰’를 제시했다. 그는 과거 데이터가 IT 부서의 ‘블랙박스’로 취급됐다면, 이제는 최고경영자와 이사회가 데이터를 통해 어떤 가치를 만들 수 있는지 직접 논의하는 단계로 넘어왔다고 설명했다. 최근 AI 확산이 이런 변화를 더욱 가속화했다는 평가다.

AWS, 금융기관용 ‘에이전트형 AI’ 확대…과제는 레거시 통합

AWS는 금융기관을 위한 에이전트형 서비스 개발에 속도를 내고 있다. AWS에 따르면 AI 에이전트는 반복 업무 자동화를 넘어 고객 데이터를 종합하고, 은행 거래와 관련된 중요한 맥락까지 반영할 수 있다. 단순 챗봇을 넘어 실제 금융 업무를 보조하거나 일부 의사결정을 지원하는 방향으로 진화하고 있다는 의미다.

다만 현장 도입은 아직 초기 단계다. 포레스터가 AWS 의뢰로 진행한 조사에서는 금융 서비스 조직의 57%가 에이전트형 AI의 잠재력을 충분히 활용하기 위한 내부 역량을 아직 구축 중이라고 답했다. 가장 큰 장애물 가운데 하나는 ‘레거시 시스템’ 통합이다. 기존 전산 환경을 클라우드 네이티브 구조로 전환하는 과정에서 비용과 보안, 운영 안정성을 둘러싼 우려가 여전하다는 뜻이다.

이 때문에 업계에서는 AI를 기존 고객 서비스와 충돌시키기보다 보완적으로 활용하는 접근이 중요하다고 본다. 고객 응대 품질을 높이고, 금융 운영 워크플로를 최적화하며, 일부 고객에게는 고액 자산관리 서비스 수준의 맞춤형 안내를 보다 저렴하게 제공하는 방식이 현실적인 첫 단계로 거론된다.

생산성보다 더 중요한 것, 금융기관의 ‘제도적 신뢰’

헵너는 금융권에서 걸린 문제가 단순히 생산성 향상만은 아니라고 강조했다. 은행과 보험사, 자본시장 기업에겐 AI가 스스로 내린 결정을 정당화하고 검증하며 통제하지 못할 경우 운영 리스크는 물론 규제 리스크와 평판 리스크까지 동시에 커질 수 있다는 것이다.

결국 금융권 AI 경쟁의 승부처는 더 화려한 기능보다 ‘설명 가능성’, ‘검증 가능성’, ‘거버넌스’에 달려 있다는 해석이 가능하다. AI가 금융 서비스의 미래를 바꾸고 있는 것은 분명하지만, 시장이 요구하는 다음 단계는 빠른 도입이 아니라 ‘믿고 맡길 수 있는 AI’다. 금융사가 이 기준을 충족할수록 AI 실험은 실제 사업 성과로 이어질 가능성이 커질 전망이다.