주식 거래 분야가 규제를 중시하는 산업임에도 불구하고, 기술 혁신의 최전선에 서 있는 시장 중 하나인 것은 변함없다. 그러나 생성형 AI 기술의 도입에 있어서는 대부분의 금융기관들이 조심스러운 태도를 보여왔다. 이러한 분위기 속에서 캐나다 토론토 도미니언 은행(TD Bank)의 증권 거래 부문인 TD 시큐리티즈(TD Securities)가 의미 있는 첫 걸음을 내딛었다. 지난 7월, 이들은 기관용 판매·거래·리서치 조직을 위해 설계된 AI 가상 비서를 정식 도입하며 주목을 받고 있다.
TD 시큐리티즈의 최고정보책임자(CIO) 댄 보스먼(Dan Bosman)은 이 AI 비서 서비스의 핵심이 “영업팀이 애널리스트 리서치에 즉각적으로 접근하고, 이를 고객 응대 및 투자 판단에 활용할 수 있도록 돕는 것”이라고 설명했다. 시범 운영은 사내 혁신 플랫폼 'TD 인벤트'에서 시작됐으며, 실제 영업 현장의 피드백을 토대로 빠르게 확장됐다.
이번 프로젝트는 개방형 AI 플랫폼인 오픈AI(OpenAI)의 GPT 모델과 TD가 2018년 인수한 캐나다 AI 스타트업 레이어6(Layer 6)의 기술을 융합한 결과물이다. 여기에 TD 내부의 클라우드 인프라를 통합하여 13F 보고서, 역사적 주가 데이터, 증권 리서치 문서 등 사내·외 시장 데이터를 폭넓게 접목시킬 수 있도록 했다. 보스먼은 “마치 영업 현장과 대화하듯 자연스럽고 직관적인 방식으로 정보를 제공하는 것이 가장 큰 목표”라고 밝혔다.
TD AI는 단순 응답형 챗봇을 넘어 지식 관리 시스템으로 진화하는 방향을 택했다. 특히 검색증강생성(RAG·Retrieval-Augmented Generation) 방식의 도입을 통해, 구조화된 데이터와 비정형 데이터를 아우르는 문맥 기반 요약과 통찰을 제공하는 것이 특징이다. 이러한 기술력은 일선 영업 사원이 고객에게 정교한 피드백을 실시간으로 제공하는 데 실질적인 도움을 주고 있다는 평가다.
또한 이 AI 비서는 TD 은행이 직접 개발한 기초 모델인 ‘TD AI 프리즘(TD AI Prism)’과도 연결돼 있으며, 이 모델은 은행 전반의 예측 분석 시스템을 대체하는 차세대 플랫폼으로 활용되고 있다. TD AI 프리즘은 기존의 단일 모델 구조를 대체하며, 100배 이상의 데이터 처리 능력을 통해 고객 데이터를 은행 외부로 유출하지 않고도 고도화된 분석 결과를 도출하는 것이 핵심 장점이다.
보스먼은 특히 자연어를 SQL 쿼리로 변환하는 ‘텍스트-투-SQL’ 기능과, 프롬프트 최적화를 통해 사전 학습 없이도 고성능 대응이 가능하도록 한 동적 예시 추출 메커니즘을 주요 성과로 꼽았다. 이로 인해 오픈AI 모델을 별도로 파인튜닝할 필요 없이, 비정형 데이터와 표 형식 데이터 모두에 대한 처리 능력을 확보했다고 전했다.
TD의 사례는 금융권이 생성형 AI 도입에 있어 경직된 규제 환경 속에서도 기술 기반 혁신이 가능하다는 실전 모델을 제시한다. 뱅크오브뉴욕멜론(BNY), 웰스파고(Wells Fargo), 캐피탈원(Capital One) 등도 각각 외환 응대용 멀티 에이전트, 고객 응대 기반 AI, 자동차 할부 판매 최적화를 위한 AI 에이전트를 도입하며 유사한 행보를 보이고 있다.
보스먼은 마지막으로 “향후 고객과도 직접 연동될 수 있는 AI 인터페이스 개발이 우리의 궁극적 비전”이라며, “AI를 통해 고객 경험을 고도화하고, 직원의 업무 효율도 동시에 높일 수 있는 엄청난 기회를 보고 있다”고 강조했다.
최근 금융권 내부에서도 챗GPT와 같은 도구에 대한 이해도는 빠르게 높아지고 있다. 문제는 기술 자체보다도, 이를 어떤 방식으로 업무에 융합시키고 잘못된 결과물을 인간이 어떻게 걸러낼 수 있는지에 대한 프레임을 구축하는 것이다. TD의 이번 사례는 AI가 단순한 도입을 넘어, 금융 산업의 구조적 개편까지 이끌어낼 수 있다는 가능성을 엿볼 수 있게 한다.