개발자, AI 도구 사용 증가에도 신뢰는 급감

개발자들이 인공지능(AI)을 점점 더 많이 사용하는 현대, 그들이 AI 도구에 대한 신뢰는 오히려 급감하고 있다. Stack Overflow에서 실시한 연례 개발자 조사가 이 점을 밝히고 있으며, 조사에 따르면 개발자 84%가 AI를 사용하고 있지만, 정확성을 믿는다는 개발자는 불과 29%에 불과하다.

이러한 결과는 AI가 기업 운영에 깊숙이 자리잡으면서 생겨나는 성장통을 드러내고 있다. 보안, 메모리, 비용, 상호운용성 같은 문제들이 AI가 업무를 더 쉽게 만들어 줄 것이라는 가정을 흔들고 있다.

클라인 봇(Cline Bot Inc.)의 솔루션 엔지니어인 토니 레어는 "AI가 혁신적인 생산성 도구라면, 왜 제가 여전히 대부분의 일을 해야 하는 걸까요?"라며 의문을 제기했다.

샌호세에서 열린 Developer Week 컨퍼런스에서 레어는 이 같은 문제를 지적했다. 이번 회의는 독립 소프트웨어 개발 및 AI 도구에 집중하며, 엔지니어들과 기업 임원들이 모여 AI가 기업 운영에 미친 영향을 평가할 수 있는 기회를 제공했다. 그 중심에는 '메모리' 문제가 있었다.

Oracle의 AI 개발 경험 책임자인 리치몬드 알레이크는 "생산에서 AI 에이전트를 구축하기 위해 해야 할 일의 본질이 변화하고 있다. 메모리를 가장 중요한 위치로 가져와야 한다"고 말했다.

Oracle은 해결책의 일환으로 메모리의 표현을 Oracle 데이터베이스 내 테이블로 제공하고 있어, 개발자들이 기억할 수 있는 에이전트를 구축할 수 있도록 돕고 있다. Oracle AI Database는 이러한 에이전트 메모리 코어를 제공하며, 통합된 검색, 확장 가능한 지속성, 그리고 학습하고 적응하는 에이전트의 기초를 제공한다.

레드햇(Red Hat Inc.)은 AI의 정확도를 개선하고 필요 메모리 양을 줄이기 위해 더 작은 모델로 이동하는 또 다른 해결책을 제시하고 있다. 퀀타이제이션(Quantization)이라는 기법을 사용하여 대규모 언어 모델의 무게를 적은 파라미터 형태로 변환함으로써 메모리 부담을 줄이고 있다.

기본 모델이 그동안 실질적인 도움이 되어왔지만, 개발자들은 작은 모델과 대형 모델의 장단점을 면밀히 평가 중이다. Stack Overflow의 최고 제품 및 기술 책임자인 조디 베일리는 "우리 분야에서 기본 모델을 무시하기는 어렵지만, 작은 모델들이 유용한 경우가 많이 있다고 믿는다"고 말했다.

이렇게 AI의 상호운용성을 보장하기 위한 노력 속에서, IBM은 AI 게이트웨이라는 중간 플랫폼의 중요성을 강조하고 있다. IBM의 상품 집행점(policies enforcement point)을 통해 에이전트 간 상호작용을 제어하는 것이 중요하다고 나즈룰 이슬람은 설명했다.

결국, 이러한 다양한 시도들이 AI가 직면한 신뢰 문제를 해결하고 완전한 기업 채택으로 이어질 수 있도록 해줄지 여부는 여전히 불확실하다. Agenda Hero Inc.의 공동 설립자 겸 CEO인 카렌 치오피는 "AI가 문제를 해결할 수 있다 해서 사람들이 그 솔루션을 채택하리라는 보장은 없다"고 지적했다.