구글에서 선호하는 출처로 추가
대만 금융당국, AI 에이전트 위험 분류에 능력 범위 포함
최윤서 기자
토포AI로 이 기사 더 깊이 읽기
대만 금융감독관리위원회가 금융회사의 인공지능(AI) 에이전트 활용 시나리오를 자료 민감도, 행동 영향, 능력 범위와 확산 가능성에 따라 분류하는 안전관리 방안을 제안했다. 금융회사는 에이전트가 접근할 자료와 사용할 도구, 실행할 행동을 업무 단위로 정하고 위험 수준에 맞춰 통제해야 한다.
대만 금융감독관리위원회는 10월 13일 ‘금융업의 에이전트 AI 활용 안전 자문 문서’를 공개하고 30일간 의견을 수렴한다고 밝혔다. 문서는 안전 거버넌스와 위험 분류, 보안 통제 방안을 다루며, 의견은 대만 공공정책 참여 플랫폼의 ‘중카이장’ 코너에서 받는다.
AI 에이전트는 질문에 답하는 데 그치지 않고 작업 순서를 계획하거나 도구를 호출하고, 여러 시스템의 자료를 이용해 업무를 진행할 수 있다. 위원회는 적절한 활용이 운영 효율과 서비스 혁신에 도움이 될 수 있지만, 관리가 미흡하면 목표에서 벗어나거나 도구를 오용하고 권한을 넘어설 수 있다고 설명했다. 민감 정보 유출과 여러 단계에 걸친 오류 확산도 위험으로 제시했다.
문서는 개별 모델이나 제품보다 ‘활용 시나리오’를 관리 단위로 삼도록 권고했다. 금융회사는 업무 목적과 책임 분담을 정하고, 접근 가능한 자료와 호출할 도구, 실행할 행동, 결과를 저장할 위치를 구체화해야 한다. 이상 상황에 대비한 대응·중단·사후 추적 절차도 마련하고, 위험 수준에 따라 검토와 모니터링, 점검, 기능 축소, 중단, 복구 체계를 적용하도록 했다.
위험은 자료 민감도, AI가 실행하는 행동의 영향, 능력 범위와 오류·행동의 확산 가능성 등 세 축으로 평가한다. 축별 평가가 엇갈리면 더 높은 위험을 기준으로 삼는다. 분류 결과는 승인 기준과 시험·운영 전환 조건, 통제 강도, 사후 점검에 반영하고 지속적으로 재평가하도록 했다.
보안 통제에서는 AI 에이전트를 행동 능력을 가진 ‘비인간 신원’이자 작업 단위로 취급한다. 신원을 확인하고 지속적으로 검증하며 필요한 최소 권한만 부여하고 행동을 추적하는 제로트러스트 원칙을 적용한다. 문서는 신원과 실행 환경, 네트워크, 애플리케이션·작업 부하, 데이터, 행동 통제, 가시성·분석 영역에 기본 및 강화 보안 요구사항을 제시했다.
위원회는 이번 문서가 현행 법령과 감독 규정, 위탁 관리 및 금융회사의 내부 통제를 대체하지 않는다고 밝혔다. 기술과 활용 방식이 빠르게 바뀌는 만큼 의견 수렴 결과를 향후 정책 검토와 지침 마련, 감독 당국과 업계의 논의에 참고할 계획이다. 의견 제출자에게는 특정 모델이나 제품에 한정하지 말고 적용 시나리오와 위험 수준, 실제 제약, 검증 가능한 통제 효과를 함께 설명해 달라고 요청했다.
댓글 0
불러오는 중…