인공지능의 발전 속도가 기업의 관리 역량을 앞지르고 있다는 경고가 현실화되고 있다. 이런 상황 속에서 AI 기술을 보다 책임 있게 운용하려는 움직임이 확산되며, '스마트 거버넌스(smart governance)'가 AI 혁신과 감독 사이의 균형을 맞추는 돌파구로 주목받고 있다.

페어나우(FairNow)의 창업자이자 CEO인 구루 세투파시(Guru Sethupathy)는 최근 열린 ‘오딧 앤 비욘드 2025(Audit & Beyond 2025)’ 컨퍼런스에서 “AI가 진정으로 가치 있는 기술이 되기 위해선 기술만큼이나 거버넌스 체계도 함께 발전해야 한다”고 역설했다. 그는 “기업이 AI를 도입하더라도 위험 요소를 효과적으로 통제하고, 신뢰를 형성할 수 있는 통합적 관리 시스템 없이는 그 잠재력을 제대로 발휘할 수 없다”고 덧붙였다.

세투파시에 따르면, 대부분의 기업들은 AI 기술 자체보다는 이를 조직 내 어디에 적용하고 어떻게 제대로 관리할 것인가에 대한 문제에 직면해 있다. 특히 AI가 사람이 하던 일을 부분적으로 대체하는 시대가 도래하면서, 수십 개 또는 수백 개의 AI 모델이 기업 내부에서 운영되는 경우가 일반화될 것으로 보인다. 이에 따라 각 모델의 신뢰성과 기능의 적절성을 유지하기 위한 강력한 거버넌스 체계가 필수화되고 있다는 것이 그의 진단이다.

그는 “우리는 AI 거버넌스가 지나치게 수동적인 방식에 얽매여 있는 문제점들을 직접 겪어왔다”며, “그래서 더 단순하고 마찰을 줄인 방식으로 AI를 관리할 수 있게 하자는 것이 페어나우의 핵심 철학”이라고 설명했다. 이러한 전략은 단지 규제 준수를 위해서가 아니라, AI 도입에 따른 비즈니스 리스크를 사전에 차단하고, 조직 내 디지털 신뢰를 구축하는 데 초점을 둔다.

지난 10월, 오딧보드는 페어나우를 인수하며 이 같은 스마트 거버넌스 전략을 공식화했다. 오딧보드는 이미 기업 감사 및 리스크 관리 분야에서 폭넓은 기술 포트폴리오를 보유하고 있는 기업으로, 이번 인수를 통해 AI 시대에 맞는 일관적이고 투명한 거버넌스 기능을 대폭 강화하게 됐다. 세투파시는 “이미 사용 가능한 AI 기술만 놓고 보더라도 향후 10년간 기업들은 엄청난 양의 실행 과제를 안고 있다”며, “새로운 기술을 기다리기보다 지금 당장의 거버넌스 구축이 시급하다”고 강조했다.

AI 기술이 고도화되고 있는 만큼 치밀한 관리 체계를 병행하지 않으면, 기업은 오히려 예기치 못한 오류와 법적 책임, 조직 신뢰 훼손 등 더 큰 위험에 노출될 수밖에 없다. 결국 스마트 거버넌스는 규제 대응을 넘어서서, AI 도입의 실질적인 성공을 결정짓는 핵심 요소로 부각되고 있다. AI 기술이 계속 진화하는 가운데, 기업이 선택해야 할 다음 단계는 명확해지고 있다. 바로 ‘책임감 있는 혁신’을 실현할 수 있는 거버넌스의 확보다.