엘리번스헬스·딜로이트, ‘휴먼 인 더 루프’로 보험 행정 병목 줄인다

의료 현장에서 인공지능(AI)의 핵심 과제는 이제 ‘모델 개발’이 아니라 ‘책임 있는 배치’로 옮겨가고 있다. 특히 규제가 엄격한 헬스케어 업무에서는 속도만큼 ‘신뢰’, ‘정확성’, 그리고 사람의 판단이 함께 작동해야 한다는 점이 더 중요해졌다.

이런 흐름 속에서 미국 건강보험·복지 기업 엘리번스 헬스는 딜로이트와 손잡고 ‘사람 중심 AI 헬스케어’ 구축에 속도를 내고 있다. 목표는 보험 청구 조회, 의료진 문의 대응, 서신 관리처럼 손이 많이 가는 행정 업무를 줄이면서도, 최종 판단은 사람이 맡는 구조를 만드는 데 있다.

엘리번스 헬스의 대니 브레이크빌 사업운영 담당 부사장은 최근 구글 클라우드 넥스트 행사에서 “여러 차례 인계가 필요하고 조사도 복잡한 업무 하나를 개선했다”며 “의료 제공자가 청구 내용을 처음부터 다시 재구성하지 않아도, 답변에 필요한 작업의 90%까지 미리 정리해 더 빠르게 진료 현장으로 복귀할 수 있도록 했다”고 설명했다.

구글 오픈소스 기반으로 다중 에이전트 워크플로 구축

엘리번스 헬스와 딜로이트는 구글의 ‘에이전트 개발 키트(Agent Development Kit)’를 기반으로 솔루션을 설계했다. 이 도구는 기업 규모의 다중 에이전트 워크플로를 지원하는 오픈소스 프레임워크다. 핵심은 정형 데이터뿐 아니라 이메일, 문서, 각종 기록처럼 구조화되지 않은 데이터를 한데 모아 문맥을 정리하고, 이를 담당 직원에게 미리 제공하는 방식이다.

엘리번스 헬스의 벤캇 알라디 기술 담당 부사장은 해당 문제를 기존 방식으로는 풀 수 없었다고 짚었다. 그는 “들어오는 정보 형식이 제각각이어서 이를 해석하고 통합할 새 도구가 필요했다”며 “AI를 활용해 다양한 포맷의 정보를 이해하고, 보안과 거버넌스를 갖춘 확장 가능한 해법을 마련했다”고 말했다.

이 접근은 단순 자동화와는 결이 다르다. 사람이 결과를 검토하고 맥락을 판단하는 과정을 시스템 설계 자체에 넣었다는 점이 핵심이다. 다시 말해 AI가 초안을 만들고 사람은 이를 검증·보완하면서 정확도를 높이는 구조다.

‘책임 있는 AI’는 사후 점검이 아니라 설계 단계의 원칙

이번 프로젝트에서 눈에 띄는 부분은 ‘책임 있는 AI’가 나중에 붙는 통제 장치가 아니라, 처음부터 아키텍처에 포함됐다는 점이다. 브레이크빌에 따르면 법무, 컴플라이언스, 보안 조직이 모든 설계 검토에 참여했고, 인간의 감독 기능도 애플리케이션 구조 안에 직접 반영됐다.

이 덕분에 현장 실무자는 AI 결과물을 단순 소비하는 데 그치지 않고, 출력값을 검증하며 모델 개선에 참여하게 됐다. 브레이크빌은 “가운데 사람을 두는 것이 ‘핵심 비결’”이라며 “사람의 판단과 추론 덕분에 더 올바른 결과에 도달하고 모델도 더 좋아진다. 결과의 일관성도 높아졌고, 팀은 다른 문제 해결에 더 많은 시간을 쓸 수 있게 됐다”고 말했다.

이는 최근 의료 AI 산업 전반에서 강조되는 방향과 맞닿아 있다. 의료처럼 실수가 비용과 신뢰, 실제 치료 대응에까지 영향을 줄 수 있는 분야에서는 완전 자동화보다 ‘인간 참여형’ 운영 모델이 현실적이라는 평가가 많다.

90일 만에 6~7개 프로토타입… 의료 AI 도입 속도도 빨라져

성과는 개발 속도에서도 나타났다. 딜로이트의 발라지 람도스 매니징 디렉터는 90일 안에 6~7개의 개념을 프로토타입 수준까지 끌어올렸다고 밝혔다. 그는 이런 속도의 배경으로 사업 부서, 기술 조직, 구현 파트너 간 긴밀한 협업을 꼽았다.

람도스는 “특히 헬스케어에서는 ‘책임 있는 AI’가 필수”라며 “‘휴먼 인 더 루프’는 부가 기능이 아니라 설계의 일부가 되어야 한다”고 강조했다.

이번 사례는 AI가 의료를 대체하는 기술이라기보다, 복잡한 보험 행정의 병목을 줄여 의료진과 실무자가 더 중요한 판단에 집중하게 만드는 ‘보조 인프라’로 자리 잡고 있음을 보여준다. 헬스케어 AI의 경쟁력도 앞으로는 모델 성능 자체보다, 얼마나 안전하고 신뢰할 수 있게 현장에 녹여내느냐에 달렸다는 해석이 나온다.