AI 기술의 진화는 단순히 모델의 정밀도 향상에만 머무르지 않는다. 아마존웹서비스(AWS)의 생성형 인공지능 플랫폼 베드록(Bedrock)의 수장 아툴 데오(Atul Deo)는 AI 모델을 더 똑똑하게 만들면서 동시에 비용 효율성을 극대화하려는 전략을 추진 중이다. 올해 하반기 AWS 최대 행사인 리인벤트(re:Invent)가 다가오면서 미국 클라우드 산업의 지형 자체가 재편될 수 있다는 관측까지 나온다.
데오는 “AI 생태계는 지금껏 본 그 어떤 시장보다 빠르게 움직이고 있다”며 신규 모델을 도입하면서도 경제성을 유지할 수 있는 기술 기반의 필요성을 강조했다. 이는 단순한 기술 진보보다 AI 플랫폼을 실제 비즈니스 환경에 적용할 수 있도록 ‘비용 대 성능’이라는 리스크 지점을 통제하려는 시도다.
AWS 내부에서 중요한 역할을 맡고 있는 베드록은 독자 모델인 ‘노바(Nova)’ 시리즈뿐만 아니라 앤트로픽(Anthropic), 메타(Meta), DeepSeek 등 외부 모델을 통합 운영하면서 초기 ‘모델 앱스토어’ 형태인 베드록 마켓플레이스까지 선보였다. 사용자들은 하나의 API를 통해 다양한 모델을 교차 사용할 수 있는 구조다. 이는 아마존이 RDS 데이터베이스 서비스에서 수년간 축적한 아키텍처 전략을 AI 영역에 그대로 확장한 사례로 평가된다.
하지만 모델이 아무리 다양해도 운영 비용이 치솟는다면 기업 고객 입장에선 부담이 클 수밖에 없다. 데오는 이를 해결하기 위한 핵심 기술 네 가지를 제시했다. ‘프롬프트 캐싱’으로 반복 쿼리 비용을 낮추고, 질문 난이도에 따라 저비용 모델로 자동 라우팅하는 ‘지능형 분기’, 그리고 배치 처리와 모델 경량화 전략을 조합해 최대 90%까지 추론 비용을 절감할 수 있다고 설명했다.
이러한 비용 절약 기술은 단순한 챗봇을 넘어선 ‘에이전트(Agent)’ 소프트웨어 확산의 기반이 된다. 데오는 예시로 주택담보대출 스타트업이 베드록 기반의 AI 에이전트를 활용해 서류 수집부터 심사까지 수일 만에 처리한 사례를 들었다. 대기업 및 전문 분야 별로 모델을 분리하고 병렬 운영하는 ‘멀티 에이전트 협업’ 기능도 기업 업무 자동화를 강력히 견인하고 있다.
한편, AI 기술력이 기업에 실제로 채택되기 위해서는 신뢰성 확보가 필수다. AWS는 이에 대한 해법으로 ‘자동 추론 검증(Automated Reasoning)’ 기능을 도입해, AI가 제공한 해답이 일정 확률 이상의 신뢰도를 확보하지 못하면 사람의 검토를 요구하게 만들었다. 제약·금융업계가 이 기능에 특히 큰 관심을 보인다.
이 같은 전략을 뒷받침하는 것은 결국 AWS가 자체 설계한 반도체다. 베드록의 최신 노바 모델은 모두 트레이니움2(Trainium 2) 칩 기반에서 학습됐다. 이는 AWS가 경쟁사 대비 AI 학습 비용을 낮추면서도 성능을 강화할 수 있는 결정적 무기다. 마이크로소프트는 마이아(Maia), 구글 클라우드는 TPU를 내세우지만, 여전히 AWS가 데이터센터 투자는 가장 활발하다는 분석이 나온다.
더불어 최근 AWS가 개발한 모델 컨텍스트 프로토콜(MCP)도 주목된다. 이는 마치 ‘USB-C’처럼 다양한 AI 에이전트와 데이터 소스 간 연결을 자동화하면서 인증과 상태 유지까지 담당하는 AI용 표준 프로토콜이다. AWS는 이미 S3, 다이나모DB 등 자사의 주요 서비스에 MCP를 적용해 에이전트의 실시간 협업 체계를 제공하고 있다.
궁극적으로 베드록은 AWS의 3단 구성 전략 중심에 서 있다. 개발자들은 인프라 층에서 트레이니움이나 세이지메이커로 자체 모델을 만들고, 일반 사용자들은 베드록 안의 Q 비즈니스 같은 상품으로 템플릿화된 에이전트를 사용할 수 있는 구성이다. 이처럼 기술적 복잡성은 가리되 결과는 단순화된 이점이 제공된다.
데오는 이런 흐름이 완성될 경우 단 한 명의 창업자가 수조 원 가치의 회사를 일궈낼 수 있는 시대가 올 것이라고 단언했다. AI 에이전트가 인프라, 개발, 업무 자동화를 모두 대체할 수 있다는 점에서다. 이런 혁신을 놓고 볼 때, AWS가 베드록 생태계를 빠르게 확대하려는 이유는 분명하다. 클라우드 전쟁은 기능 우위만큼이나 속도 싸움이기 때문이다.
다만, 경쟁사 역시 만만치 않다. 마이크로소프트와 구글은 가격 인하와 유사한 툴킷으로 맞불을 놓고 있으며, 유럽과 미국의 규제 당국은 생성형 AI의 작동 방식을 철저히 들여다보고 있다. 이런 상황에서 AWS는 하드웨어, 보안, 규제, 고객 경험을 모두 아우르는 풀스택 전략을 밀어붙이며, 단순한 클라우드가 아닌 완전한 AI 중심 플랫폼으로 변신을 시도 중이다. 베드록의 다음 모델은 벌써 출시를 앞두고 있다. AI 생태계에서 AWS가 숨돌릴 여유는 없다.