AI 도구를 선택할 때는 성능 순위나 유행보다 자신의 작업 특수성과 개발사의 강점을 먼저 따져야 한다는 조언이 나왔다.
4일 TV조선이 주최하고 토큰포스트가 공동 주관한 국내 대표 AI 컨퍼런스 '메타콘 2026'에서 이보라 모던웹연구소 대표는 '쏟아지는 AI 도구, 옥석을 가리는 법'을 주제로 발표하며 AI 도구를 고르는 핵심 기준으로 ▲작업의 특수성 ▲도구를 만든 회사의 강점 ▲가격 세 가지를 제시했다.
이 대표는 AI 모델 순위 사이트 'AI 아레나(AI Arena)'에서 웹 개발, 이미지 생성, 텍스트 처리 등 분야별 최고 성능 모델을 확인할 수 있지만 성능 지표와 순위는 계속 변한다고 지적했다. 그는 "어떤 도구가 제일 좋은가를 묻는 대신 '내 작업의 특수성에는 어떤 도구가 구조적으로 유리한가'를 물어야 한다"며 "자신만의 기준을 만들면 이런 기준은 쉽게 바뀌지 않는다"고 말했다.
또한 "AI 회사가 가진 데이터와 사업 환경에 따라 잘하는 영역이 다른 만큼 AI를 적용할 작업 특성에 맞는 기준을 먼저 세워야 한다"며 유튜브를 보유한 구글의 경우 방대한 동영상 원천 데이터를 확보하고 있기 때문에 동영상 특화 도구를 잘 만들 수 있다고 예를 들어 설명했다.
모델과 에이전트 개발사 일치시키기
이 대표는 코딩 업무 시에는 모델과 코딩 에이전트를 같은 회사 제품으로 사용하는 '수직 통합'이 중요하다고 설명했다.
그는 "AI의 도움을 받아 코딩할 때는 최상위 모델을 선택하고 동일한 기업이 만든 코딩 에이전트를 붙이는 것이 좋다"며 클로드 코드-클로드, Codex-GPT, ZCode-GLM, Qwen Code-Qwen3-Coder와 같은 조합이 가능하다고 설명했다.
모델 제작사는 자사 모델을 가장 잘 활용할 수 있도록 컨텍스트 관리, 툴콜 패턴, 장기 세션 운영 방식에 맞춰 에이전트를 설계한다면서 "모델과 에이전트 개발사가 다를 경우 프롬프트 포맷이나 압축 방식 차이로, 불일치가 누적되면서 맥락 유실과 반복 실수, 품질 저하가 발생할 수 있다"고 부연했다.
또 채팅형 AI의 한계도 언급했다. 그는 "채팅창 하나가 하나의 세션인데 LLM이 가장 집중력이 좋은 상태에서도 한 세션의 정확도가 90%를 넘지 못한다"며 "여러 주제를 한 채팅창에서 장기간 이어가면 중반 이후부터는 과부하가 발생해 이전 내용을 압축하거나 덜어내게 된다"고 말했다. 이어 "모델과 에이전트를 같은 회사 제품으로 써도 이런 현상은 발생하지만 서로 다른 회사 제품을 조합하면 불일치 문제가 더 심해진다"고 덧붙였다.
리서치에는 모델보다 '데이터 접근권'
리서치 업무에서는 모델 자체보다 어떤 데이터를 확보하고 있는지가 경쟁력을 좌우한다고 강조했다.
이 대표는 "리서치에 적합한 도구를 고를 때는 성능 문제가 아니라 데이터 접근권의 문제"라며 "AI와 IT 분야 최상위 트렌드는 X에 가장 먼저 올라오고, 연구자와 창업자들이 논문이나 블로그보다 먼저 새로운 내용을 올린다"고 말했다.
이어 "X를 네이티브로 검색하는 그록(Grok)이 구조적으로 유리한 이유는 X 정보를 실시간으로 가져올 수 있기 때문"이라며 "어떤 모델이 더 똑똑한지를 보기보다 개발사가 어떤 데이터를 보유하고 있는지를 봐야 한다"고 설명했다.
소비재 도메인의 경우 이러한 AI의 추천 매커니즘을 이해하고 관련 전략을 짜는 것이 필요하다고 조언했다.
그는 AI 기반 상품 추천에서 레딧이 핵심 데이터 소스로 활용되고 있으며 LLM 인용 데이터의 약 40%를 차지한다는 분석이 있다고 소개했다. 이어 구글(6000만 달러 투자)과 오픈AI의 레딧 데이터 활용 사례, 레딧의 데이터 라이선스 사업 성과(2억300만 달러 매출) 등을 언급하며 데이터 원천의 중요성을 설명했다.
이 대표는 "소비재를 검색하거나 제품을 추천받을 때 LLM이 레딧 정보를 적극 활용하는 만큼 기업들도 레딧 내 제품 노출을 최적화하는 전략이 필요하다"고 말했다. 그러면서 "현재 AI 추천에 활용되는 데이터는 아직 완전히 중립적이지 않다"며 "소비재 기업과 세일즈·마케팅 담당자라면 어떤 플랫폼에 자원을 투입하고 콘텐츠를 관리할지 전략적으로 접근해야 한다"고 강조했다.
수만 장 문서는 컨텍스트와 멀티 에이전트가 핵심
방대한 문서를 처리하는 업무에서는 컨텍스트 윈도우와 멀티 에이전트 기능을 가장 먼저 확인해야 한다고 조언했다.
이 대표는 "수천, 수만 장의 문서나 거대한 코드베이스를 그대로 AI에 넣으면 모델이 감당하지 못한다"며 "이럴 때는 컨텍스트 윈도우가 큰 모델을 선택하고 반드시 멀티 에이전트 구성이 가능한 도구를 사용해야 한다"고 말했다.
그는 "LLM은 컨텍스트 윈도우라는 머리 용량이 있는데 5~10% 정도만 사용할 때는 정확도가 높지만 컨텍스트가 가득 차면 문서 앞과 끝은 잘 기억해도 중간 내용을 제대로 답하지 못한다"며 "이는 논문으로도 입증된 한계"라고 설명했다.
또한 "데이터가 너무 크면 문서를 챕터별로 나눠 각각 다른 에이전트에 맡기도록 자연어로 지시할 수 있어야 한다"며 "코드를 다루지 않는 일반 문서 작업자라도 수천 장의 문서를 처리한다면 단순 채팅형 앱보다 CLI 기반 에이전트를 사용하는 것이 좋다"고 말했다. 이어 "CLI는 개발자만의 도구가 아니라 작업 규모에 따라 서브 에이전트를 동적으로 생성하고 해체하면서 팀 규모를 늘리거나 줄이는 방식으로 일할 수 있다"고 설명했다.
회사 환경이 AI 제품의 강점이 되다
이 대표는 AI 기업이 놓인 지정학적 환경과 규제 상황이 제품 특성을 결정하기도 한다며 "기업의 지정학적 특징과 주요 고객사를 조사해 보면 어떤 도구를 선택해야 할지 기준을 찾을 수 있다"고 말했다.
사례로, 영어 중심 환경에서 성장한 앤트로픽과 오픈AI와 달리, 프랑스의 미스트랄(Mistral)은 "EU 27개국, 24개 공식 언어를 사용하는 시장을 지원한다"면서 "이런 고객들에게 제품을 판매하기 위해 다국어 문서 처리 역량을 집중적으로 연구할 수밖에 없었고 그 결과 문서 처리와 다국어 지원에 강점을 갖게 됐다"고 설명했다.
또한 "동영상 처리에서는 구글 제미나이가 강력하지만 중국 기업들도 매우 두드러진다"며 "중국은 학습 데이터 확보와 가공에 대한 규제가 상대적으로 적고 인프라 운영 비용도 낮아 비디오 처리와 이미지-동영상 생성 분야에서 경쟁력을 확보하고 있다"고 설명했다.
기업 고객을 지원하며 기능보다 운영 안정성을 중시한 마이크로소프트 깃허브 사례도 언급했다. 그는 "다른 AI 기업들은 속도 경쟁을 벌이며 출시하고 사용자는 그 과정에서 다양한 버그를 경험하게 된다"며 대표적인 문제 사례로 법률 문서를 입력했는데 다른 기업의 법률 문서가 출력되는 사례까지 있었다고 말했다.
반면 깃허브 코파일럿 CLI나 SDK는 프리뷰를 오래 운영하고 버그 리포트를 충분히 받은 뒤 출시한다면서 "대형 고객사는 장애가 발생하면 수백억, 수천억원 규모의 피해가 발생할 수 있기 때문에 선출시 후 대응 방식이 불가능하다"며 "금융과 반도체처럼 보안과 가용성이 중요한 분야는 릴리즈 주기와 운영 케이던스를 확인하고 일반 공급(GA) 절차를 거친 안정적인 제품을 선택해야 한다"고 조언했다.
또 러버블(Lovable)에 대해서는 "개발자들이 자주 사용하는 여러 인프라 기업은 화면 구성을 자주 바꾸기 때문에 API 키 발급이나 연동 과정에서 초보자가 막히는 경우가 많다"며 "러버블은 84개 커넥터를 제공하고 마이크로소프트 365, 구글 워크스페이스 등을 OAuth 로그인만으로 연결할 수 있는 통합 생태계를 갖추고 있다"고 설명했다. 이어 "바이브 코딩으로 웹사이트를 만들고 싶지만 API 키 발급 단계에서 어려움을 겪는 사람이라면 러버블이 좋은 선택이 될 수 있다"고 말했다.
과도한 바이럴과 연간 결제 할인은 경계해야
이 대표는 AI 도구를 선택할 때 피해야 할 '레드 플래그'도 제시했다. 그는 "유튜버나 테크 인플루언서를 통한 동시다발적인 홍보로 바이럴되는 도구는 한 번 의심해 볼 필요가 있다"며 "유기적인 입소문인지, 돈을 들인 마케팅인지 봐야 한다"고 말했다.
또 "연간 결제를 크게 할인하는 회사도 주의해야 한다"며 "사용한 만큼 비용을 내는 정량제 모델을 선호하는 것이 좋고, AI 기업 상당수는 런웨이가 짧아 6개월에서 1년 안에 자금이 소진될 가능성도 있기 때문에 현금 확보를 위해 공격적인 연간 결제를 유도하는 경우가 있다"고 설명했다.
메타콘 2026은 TV조선이 주최하고 토큰포스트가 공동 주관한 AI 컨퍼런스로, 7월 3~4일 서울 코엑스 그랜드볼룸에서 "AI Makers Rise"를 주제로 개최됐다. 행사에서는 기술과 기업 혁신, 마케팅, 투자 등 다양한 분야의 AI 전략과 실행 경험을 공유하며 AI가 산업과 업무 방식을 어떻게 변화시키고 있는지 조명했다.
<저작권자 ⓒ TokenPost, 무단전재 및 재배포 금지>
많이 본 기사