미 공공부문, AI ‘실험’ 끝내고 에이전틱 워크포스 도입 속도 낸다

미국 공공기관이 인공지능(AI)을 더 이상 ‘미래 기술’이 아닌 당장 업무 부담을 줄일 ‘즉시 투입 가능한 도구’로 받아들이고 있다. 인력 증가가 정체된 가운데 행정 수요는 커지고, 노후 시스템과 강한 규제까지 겹치면서 AI가 생산성과 현대화를 함께 끌어올릴 핵심 수단으로 부상하는 모습이다.

구글클라우드는 최근 ‘제미나이 포 거버먼트’를 앞세워 이런 흐름에 대응하고 있다. 핵심은 AI를 단순한 보조 기능이 아니라 공공기관 전반의 업무 생산성을 높이고, 오래된 정보기술(IT) 환경을 개선하는 ‘플랫폼 계층’으로 자리매김시키는 데 있다.

이 같은 변화는 더큐브리서치의 팟캐스트 ‘앱디브앵글’에서 크리스 하인 구글 퍼블릭 섹터 최고기술책임자(CTO)가 밝힌 내용에서도 확인된다. 하인은 공공기관이 AI를 실제 업무에 접목하는 과정에서 ‘에이전틱 워크포스’가 가시화되고 있다고 진단했다. 그는 AI가 조직을 대체하는 존재가 아니라 ‘팀의 가치 있는 일부’가 되는 방향으로 발전하고 있다고 설명했다.

챗봇 단계 넘어, 공무원 업무 보조하는 AI로 진화

지난 2년간 기업들의 AI 도입은 시범사업과 개념검증, 챗봇 중심 활용에 머무는 경우가 많았다. 그러나 공공부문에서는 흐름이 더 실용적으로 바뀌고 있다. 적은 인력으로 더 많은 업무를 처리해야 하는 현실 때문에, AI를 기존 업무 흐름에 단계적으로 붙여 생산성을 끌어올리는 방식이 먼저 확산하고 있다.

예컨대 행정 문서 처리, 정보 검색, 내부 업무 자동화처럼 반복적이고 시간이 많이 드는 작업에 AI를 적용해 공무원의 일상 업무 효율을 높이는 식이다. 이는 곧 ‘에이전틱 워크포스’의 초기 형태로 볼 수 있다. 사람이 최종 판단을 하되, AI가 실무 협업자로 들어오는 구조다.

시장 조사도 이를 뒷받침한다. 더큐브리서치에 따르면 전체 조직의 46.5%는 3년 전보다 훨씬 빠른 속도로 애플리케이션을 개발해야 한다는 압박을 받고 있다. 하지만 인력 확대는 그 속도를 따라가지 못하고 있다. 결과적으로 AI는 이 격차를 메울 사실상 유력한 대안으로 평가받는다.

공공기관 AI의 핵심은 성능보다 ‘컴플라이언스’

민간 기업은 혁신이 규제보다 앞서가는 경우가 적지 않지만, 공공기관은 다르다. 보안 인증, 데이터 저장 위치, 개인정보 보호, 규제 적합성 같은 조건이 부차적 요소가 아니라 출발점이 된다. 공공부문이 AI를 도입할 때 가장 먼저 따지는 것도 성능보다 ‘허용 가능한 환경인가’ 여부다.

구글은 이런 요구를 반영해 AI 기능을 별도 폐쇄 구역에 가두기보다, 클라우드 플랫폼 자체에 통제 장치를 내재화하는 전략을 택했다고 설명했다. 이를 통해 기관들은 연방 위험 및 인증 관리 프로그램인 ‘페드램프’와 미 국방부 기준 같은 규제 요건을 충족하면서도 최신 AI 모델을 활용할 수 있게 된다.

이 문제는 정부만의 이슈도 아니다. 유럽연합(EU)의 ‘사이버 복원력법’처럼 소프트웨어와 AI를 설계 단계부터 규제 친화적으로 만들도록 요구하는 흐름이 커지면서, 민간 개발자 역시 비슷한 압박을 받기 시작했다. AI 확산의 속도를 가르는 변수가 기술 그 자체보다 ‘컴플라이언스 내재화’로 옮겨가고 있다는 뜻이다.

노후 시스템 개편도 일회성 사업에서 상시 작업으로

정부 IT의 고질적 문제로 꼽히는 노후 시스템 현대화도 AI 도입과 함께 접근 방식이 달라지고 있다. 여전히 많은 기관이 수십 년 전에 구축된 핵심 시스템을 운영하고 있는데, 기존에는 이를 대형 교체 사업처럼 한 번에 바꾸려는 시도가 많았다.

하지만 이제는 AI 보조 개발을 통해 코드를 점진적으로 정리하고, 문서를 보완하고, 업무 흐름을 개선하는 방식이 주목받고 있다. 특히 오랫동안 전환이 쉽지 않았던 코볼(COBOL) 기반 시스템의 재구성에도 AI가 활용되기 시작했다는 점이 눈에 띈다.

이는 현대화를 ‘끝이 있는 프로젝트’가 아니라 지속적으로 관리해야 하는 과정으로 보는 시각 변화와 맞닿아 있다. 애플리케이션 개발 전반에서 현대화는 더 이상 특정 시점의 목표가 아니라 상시 수행해야 할 운영 원칙이 되고 있다.

하나의 AI에 묶이지 않는 ‘선택권’도 중요해져

공공기관은 특정 AI 사업자나 단일 모델에 장기적으로 의존하는 상황을 경계한다. 하인 역시 정부 부문에서 중요한 가치로 ‘옵셔널리티’, 즉 선택권을 강조했다. 성능, 비용, 보안, 활용 사례에 따라 여러 모델을 고를 수 있어야 빠르게 바뀌는 AI 시장에 대응할 수 있다는 판단이다.

구글의 버텍스 AI 같은 플랫폼은 오픈웨이트 모델과 최첨단 모델을 함께 제공하는 방식으로 이런 수요를 겨냥한다. 이는 개발자들에게도 의미가 크다. 앞으로 애플리케이션은 하나의 모델에 강하게 묶이기보다, 복수의 모델과 상호작용하는 구조로 설계될 가능성이 커진다.

엣지 배포 확산… AI는 이제 클라우드만의 일이 아니다

AI 워크로드가 중앙 클라우드에만 머무르지 않는 점도 중요한 변화다. 공공 현장에서는 지연 시간, 네트워크 단절, 운영 환경 제약 때문에 중앙 서버 추론이 적합하지 않은 경우가 적지 않다. 이 때문에 현장 단말이나 분산 환경에서 AI 모델을 조정하고 배포하는 ‘엣지 AI’ 수요가 빠르게 커지고 있다.

다만 이는 개발팀과 플랫폼 운영팀에 새로운 과제를 던진다. 중앙 환경과 엣지 환경을 오가며 모델 수명주기, 거버넌스, 배포 체계를 함께 관리해야 하기 때문이다. 결국 AI는 단순한 클라우드 서비스가 아니라 전체 애플리케이션 환경을 가로지르는 ‘아키텍처 계층’으로 변하고 있다.

미국 공공부문의 움직임은 정부가 민간보다 AI 도입에 뒤처진다는 통념과는 다른 장면을 보여준다. 인력 제약과 필수 서비스 운영 부담이 큰 만큼, 오히려 공공기관이 생산성 향상과 시스템 현대화 측면에서 AI를 더 빠르게 실전 배치하고 있다는 평가도 나온다. ‘에이전틱 워크포스’는 아직 완성형 개념이라기보다 진화 중인 모델이지만, AI가 기능 추가 수준을 넘어 노동력과 플랫폼, 소프트웨어 구조 자체의 일부가 되고 있다는 점은 분명해 보인다.