GPT-5, 기술은 진보했지만 에이전트형 AI로 가는 '도로'는 아직 멀다

GPT-5가 일부 기대를 충족하며 공개된 가운데, 진정한 '에이전트형 AI(Agentic AI)'로의 도약을 위한 핵심 인프라가 여전히 부족하다는 분석이 나왔다. 시장조사업체 가트너(Gartner)는 최근 보고서를 통해 GPT-5의 기술적 진전에 일정 수준의 진보가 있었지만, 그것이 획기적인 전진이라기보다는 점진적 개선에 해당한다고 평가했다. 특히 기존에 비해 코딩 능력과 멀티모달 성능은 향상됐지만, 이를 뒷받침할 고도화된 AI 인프라는 아직 완비되지 않았다는 것이 문제라는 지적이다.

가트너 선임 부사장 아룬 찬드라세카라는 “현재는 엔진만 잘 만든 자동차를 두고, 마치 완성된 고속도로망이 구축된 것처럼 흥분하고 있는 형국”이라며, AI 모델 발전과 이를 실제로 활용할 수 있는 기반 간의 간극을 강조했다. 즉, 강력한 AI 모델은 현실에 존재하지만, 이를 뒷받침할 데이터 통합, API 운용, 권한 관리 시스템 등 기업 인프라가 따라주지 못하고 있다는 것이다.

GPT-5는 코드 생성, 음성·이미지 처리, 툴 사용 능력 등에서 다양한 개선을 이뤘다. 특히 GPT-5는 외부 툴과의 병렬 호출이 가능해지고, 멀티스텝 계획 기능을 통해 더 많은 비즈니스 로직을 모델 내부에 수용할 수 있게 됐다. 이를 활용하면 더 이상 외부 워크플로 엔진에 의존하지 않아도 돼, 기업의 AI 아키텍처 효율화에 기여할 수 있다는 분석이다. 또한 GPT-4 대비 문맥 처리 범위는 최대 128K까지 확장돼 더 방대한 데이터를 직접 모델에 투입할 수 있다.

그러나 감미로운 기술적 진보 뒤에는 여전히 해소되지 않은 비용 구조와 인프라 문제가 도사리고 있다. GPT-5는 API 사용 비용 측면에서 토큰당 가격을 대폭 낮췄지만, 전체 입력·출력 토큰 비율은 증가해 장기적으로 사용량이 많은 기업에는 추가 부담 요소로 작용할 수 있다. 챗봇이나 문서 요약 같은 고토큰 작업의 경우, 비용 최적화 전략이 반드시 필요하다.

이와 함께 가트너는 GPT-5가 기존 GPT-4o 모델을 완전히 대체할 것으로 보며, 기업 개발자들은 코드 검토, 프롬프트 구조 및 시스템 명령 설정을 반드시 업데이트해야 한다고 경고했다. 특히 모델별로 API 응답 형식이나 함수 호출 방식이 다르기 때문에, 이전 세대에 맞춰 구축된 시스템과의 호환성 문제에 철저히 대비할 필요가 있다.

GPT-5의 환각률이 이전 세대 대비 최대 65%까지 감소했다는 점은 주목할 만하다. 이는 기업의 규제 준수와 정확성 요구를 충족하는 데 긍정적이지만, 동시에 AI를 통한 고도화된 사기나 피싱 공격 가능성 증가라는 새로운 위험 요인도 수반한다. 이에 따라 핵심 업무에는 여전히 인간 감독 체계를 유지할 필요가 있다는 신중론이 제기된다.

가트너는 기업들이 GPT-5 도입 시 반드시 다음 사항을 준수하라고 권고했다. ▲ 미션 크리티컬 환경에선 선행 시범 운영과 모델 간 비교 테스트 실시, ▲ 모델 크기·캐시·툴 통합 등 매개변수 설정을 통한 성능 최적화, ▲ 거버넌스 체계 개편 및 설명 가능성 확보, ▲ API 및 멀티모달 파이프라인 감사 체계 재정비 등이 그것이다.

한편, 찬드라세카라는 현재 에이전트형 AI는 많은 기대를 모으고 있지만, 실제로는 오류나 과장된 기능 설명이 난무하고 있다고 지적했다. 가트너가 조사한 결과, 대부분의 에이전트형 AI는 여전히 특정 업무에 한정되며 완전한 자율성은 갖추지 못한 경우가 많았다. AI가 수행하는 대부분의 작업은 부분적으로 인간 지시가 수반되거나 완전한 자동화로 보기 어려운 수준에 머물고 있다.

AI 에이전트가 실제로 기업에서 광범위하게 활용되기 위해선 보다 정교한 통합, 거버넌스, 데이터 신뢰성 체계 구축이 필요하다. 예컨대, 에이전트가 SaaS 앱이나 사내 데이터베이스와 자유롭게 상호작용하려면 신원 인증, 접근권한 관리, 민감 데이터 분리 시스템 등이 갖춰져야 한다.

궁극적으로 찬드라세카라는 “에이전트 혹은 기저 기술이 발전해도, 이를 연결하고 관리하며 신뢰할 수 있는 기반이 마련되지 않으면 도입 효과는 제한적일 수밖에 없다”며 “현실 상황에서 가장 큰 마찰 지점은 바로 이 인프라 부족”이라고 지적했다.

그는 지금의 AI 발전이 추론 능력이나 모델 크기 측면에서 어느 정도 성과를 보였지만, 물리적 세계를 인식하고 행동하는 능력 측면에서는 초기단계에 머물러 있다고 강조했다. 따라서 진정한 개념의 인공지능 일반화(AGI)를 실현하려면 단순히 더 많은 연산 자원과 데이터를 소비하는 것이 아닌 완전히 새로운 모델 아키텍처와 추론 패러다임의 혁신이 뒷받침돼야 한다고 강조했다.

GPT-5의 등장은 명백한 진일보지만, AGI를 향한 여정은 아직 갈 길이 멀다. GPT-5를 계기로 우리가 진정 주목해야 할 것은 차세대 AI를 위한 '도로를 설계하는 일'이라는 가트너의 분석은 그만큼 시사하는 바가 크다.