방코롬비아 “설명 못하면 AI도 없다”…금융권, 속도전 대신 ‘신뢰’로 방향 틀까

중남미를 비롯한 규제 산업 전반에서 인공지능(AI) 도입 기준이 달라지고 있다. 성능 경쟁보다 ‘설명 가능성’과 감사 추적, 인간의 최종 통제가 가능한지가 실제 도입의 핵심 조건으로 떠오르는 모습이다.

콜롬비아 최대 은행 방코롬비아는 이런 흐름을 대표하는 사례로 꼽힌다. 이 은행은 3600만명 이상 고객을 보유하고 있으며, 콜롬비아 금융 거래의 약 50%가 이 은행을 거친다. 방코롬비아의 알레한드로 아리아스 지속가치팀 리더 겸 프로젝트 매니저는 최근 앱피안 월드 2026에서 “의사결정을 설명할 수 없다면 그 결정에 AI를 개입시킬 수 없다”며 “‘투명성’은 협상의 대상이 아니고, ‘신뢰’는 단순한 가치가 아니라 원칙”이라고 말했다.

이 발언은 금융권의 AI 도입이 단순 자동화를 넘어 ‘책임 있는 활용’ 단계로 이동하고 있음을 보여준다. 특히 은행처럼 규제가 강한 산업에서는 AI가 어떤 근거로 결론을 내렸는지 추적할 수 있어야 하며, 문제가 발생했을 때 이를 검증하고 수정할 수 있는 구조가 필수라는 의미다.

분산된 시스템부터 정리…AI보다 먼저 거버넌스 깔았다

방코롬비아는 AI를 서둘러 붙이기보다 먼저 내부 시스템 정비에 집중했다. 앱피안(Appian Corp.)의 레오나르도 비바스 수석 필드 세일즈 매니저에 따르면, 초기 과제는 서로 분리된 데이터베이스와 연결되지 않은 레거시 시스템이었다. 이런 환경에서는 자동화와 AI를 올려도 오류와 통제 리스크가 커질 수밖에 없다.

방코롬비아는 앱피안 플랫폼을 기반으로 AI와 로보틱 프로세스 자동화(RPA), 인간 검토 절차를 결합한 운영 체계를 구축했다. 핵심은 문서와 정보, 프로세스를 별개로 두지 않고 하나의 통제된 흐름 안에 넣는 것이었다. 이를 통해 수작업 비중은 약 70% 줄었고, 문서 처리 속도도 크게 개선됐다.

구축 속도도 빨랐다. 약 13~14주 만에 문서 자동화 시스템을 가동했고, 현재는 월 8만건의 문서를 높은 정확도로 처리하고 있다. 다만 성과의 배경에는 기술만이 아니라 조직 문화 변화와 운영 인력의 역량 강화가 있었다는 것이 방코롬비아 측 설명이다.

‘AI부터 써라’는 주문의 함정…은행권 실수 커질 수 있어

방코롬비아는 금융기관들이 충분한 통제 장치 없이 AI 확산을 서두르는 점을 경계했다. 아리아스는 많은 금융기관이 “모든 일에 AI를 써야 한다”는 식으로 접근하면서 오히려 실수를 키우고 있다고 지적했다.

그가 강조한 부분은 AI가 업무 바깥에서 임의로 작동하는 보조 수단이 아니라, 내부 프로세스 안에서 관리되고 기록돼야 한다는 점이다. 문서 처리와 정보 이동, 승인 과정이 모두 하나의 체계 안에 있어야 보안과 속도, 규제 대응을 동시에 확보할 수 있다는 설명이다. 이는 최근 금융권 AI 도입 논의에서 자주 언급되는 ‘휴먼 인 더 루프’, 즉 인간이 최종 감독권을 유지하는 구조와도 맞닿아 있다.

이 같은 사례는 규제 산업에서 AI 경쟁력이 단지 모델 성능이나 도입 속도로 결정되지 않음을 보여준다. 앞으로는 ‘얼마나 똑똑한가’보다 ‘얼마나 신뢰할 수 있는가’가 더 중요한 평가 기준이 될 가능성이 크다. 방코롬비아의 접근은 금융권 AI 확산 국면에서 기술보다 거버넌스가 먼저라는 점을 다시 확인시켜 준다.