AI가 코드를 빠르게 만들어주는 시대가 열렸지만, 실제 현장에서는 ‘시제품’과 ‘기업용 소프트웨어’ 사이의 간극이 여전히 크다는 지적이 나왔다. 겉으로는 빠르게 돌아가는 것처럼 보여도 보안과 유지보수, 통합 문제를 넘지 못하면 오히려 ‘기술 부채’만 키울 수 있다는 설명이다.
메드핫 갈랄(Medhat Galal) 아피안(Appian Corp.) 수석 부사장은 최근 ‘아피안 월드 2026’ 행사에서 AI 생성 코드의 한계를 짚으며, 빠른 프로토타이핑이 곧바로 운영 가능한 시스템으로 이어지지는 않는다고 말했다. 그는 많은 기업이 ‘바이브 코딩’이나 명세 기반 개발에 기대를 걸고 있지만, 실제로는 기능 완성도와 보안 문제로 프로젝트가 중간에 멈추는 사례가 적지 않다고 설명했다.
갈랄은 AI 기반 개발이 처음에는 인상적으로 보일 수 있지만, 시간이 갈수록 문제가 연쇄적으로 드러난다고 진단했다. 기능을 맞추면 보안이 흔들리고, 보안을 고치면 기반 모델 변화에 따라 다시 손봐야 하는 일이 반복된다는 것이다. 그는 결국 기업이 애플리케이션을 만드는 대신 AI 시스템을 계속 유지·관리하는 쪽으로 빠질 수 있다고 지적했다.
기업용 소프트웨어 개발의 구조적 복잡성
이 같은 문제는 기업용 소프트웨어 개발의 구조적 복잡성과도 연결된다. 자바나 파이썬 같은 코드를 생성하는 것 자체는 시작에 불과하고, 실제 서비스로 쓰려면 데이터 연동, 인증과 권한 관리, 업무 규칙, 오케스트레이션, 사용자 인터페이스까지 여러 계층을 안정적으로 묶어야 한다. 갈랄은 각 단계가 서로 다른 ‘추상화 계층’을 이루고 있어, 하나의 기능이 완성돼도 전체 시스템 수준의 신뢰성을 확보하는 일은 훨씬 어렵다고 설명했다.
이는 왜 기업용 소프트웨어 프로젝트가 수주가 아니라 수년 단위로 진행되는지를 보여주는 대목이기도 하다. AI 생성 코드가 개발 속도를 끌어올릴 수는 있지만, 실제 운영 환경에서는 통합과 검증, 보안 대응에 더 많은 시간이 들어간다. 초반의 빠른 성과가 이후 긴 수정 국면으로 바뀌면서, 개발보다 오류 수정에 더 많은 자원이 투입되는 상황도 벌어진다.
통제된 프로세스 안의 AI
아피안은 이런 한계를 줄이기 위해 AI를 ‘통제된 프로세스’ 안에 배치하는 접근이 필요하다고 보고 있다. 에이전트가 언제 무엇을 할 수 있는지 가드레일을 두고, 거버넌스를 적용해 재작업과 기술 부채를 줄여야 한다는 주장이다. 핵심은 AI가 개발의 지름길처럼 보일 수는 있어도, 기업 환경에서는 여전히 관리 체계와 설계 역량이 성패를 가른다는 점이다.
갈랄은 결국 코딩 자체가 원래부터 어려운 일이며, AI 개발도 예외가 아니라고 강조했다. AI 생성 코드가 생산성을 높이는 도구인 것은 맞지만, 이를 곧바로 ‘완성된 기업용 시스템’으로 받아들이는 순간 예상보다 큰 유지보수 부담이 뒤따를 수 있다는 의미다.
이번 발언은 생성형 AI 열풍 속에서 기업들이 어떤 기준으로 시스템 도입과 개발 전략을 세워야 하는지 다시 생각하게 한다. 빠른 개발 속도보다 중요한 것은 ‘신뢰성’과 ‘보안’, 그리고 장기적으로 감당 가능한 운영 구조다. 시장의 기대와 달리, AI 기반 개발의 진짜 승부처는 코드 생성이 아니라 그 이후의 통합과 통제에 있다는 해석이 나온다.

