토픽

맨위로 가기
  • 공유 공유
  • 댓글 댓글
  • 추천 추천
  • 스크랩 스크랩
  • 인쇄 인쇄
  • 글자크기 글자크기
링크 복사 완료 링크가 복사되었습니다.

믿을 수 없는 AI, 해법은 '사람이 끼는 설계'…믹서스가 제시한 현실적 대안

프로필
김민준 기자
댓글 0
좋아요 비화설화 0

믹서스는 AI 환각 문제와 자동화 한계를 극복하기 위해 인간 개입이 필수적인 '콜리그 인 더 루프' 전략을 제시했다. 반복 작업은 AI가 수행하고 핵심 결정은 사람이 하는 하이브리드 설계가 주목받고 있다.

 믿을 수 없는 AI, 해법은 '사람이 끼는 설계'…믹서스가 제시한 현실적 대안 / TokenPost Ai

믿을 수 없는 AI, 해법은 '사람이 끼는 설계'…믹서스가 제시한 현실적 대안 / TokenPost Ai

AI가 기업 현장에 본격적으로 도입되고 있지만, 완전한 자율성에 의존하는 모델은 여러 문제를 드러내고 있다. 이 같은 상황에서, 인간의 통제를 다시 강화하는 '사람 중심' 전략이 신뢰성과 안전성 확보의 해법으로 부상하고 있다. 대표적인 사례가 바로 믹서스(Mixus)다. 이들은 '함께 일하는 동료' 콘셉트로 설계된 AI 플랫폼을 통해 고위험 작업에 인간 감독자를 끼워 넣는 새로운 방식을 제안하고 있다.

AI의 *환각(hallucination)* 현상은 이제 이론이 아닌 현실의 리스크로 다가오고 있다. 최근 AI 기반 코드 편집기 커서(Cursor)의 고객 지원 챗봇이 존재하지 않는 정책을 안내하면서 대규모 구독 취소 사태를 초래한 사례는 업계에 경고등을 켰다. 핀테크 기업 클라르나(Klarna) 역시 고객 서비스 업무를 전면적으로 AI에 맡긴 뒤 품질 저하를 이유로 기존 정책을 철회한 바 있다. 뉴욕시가 도입한 AI 챗봇이 불법 행위를 권고한 사례도 발생해 법률 위반 가능성이라는 심각한 문제점까지 노출됐다.

세일즈포스가 2025년 5월 발표한 연구에 따르면, 최첨단 AI 에이전트들이 단일 작업에서는 성공률이 58%, 복잡한 다단계 과업에서는 겨우 35%에 그쳤다. 이는 현재 AI 언어모델이 현실 적용 과정에서 얼마나 큰 한계를 지니고 있는지를 보여주며, 결국 '인간의 개입' 없이는 완전한 상용화가 어렵다는 결론에 도달하게 한다.

믹서스는 이러한 한계를 정면 돌파하려고 한다. 공동 창업자 엘리엇 카츠(Elliot Katz)는 "AI 에이전트는 사용자를 대신해 업무를 수행해야 하지만, 조직 내 통제 메커니즘이 뒷받침되지 않으면 오히려 문제를 유발한다"고 강조한다. 믹서스의 '콜리그 인 더 루프'(Colleague-in-the-loop) 모델은 업무 자동화 과정 중 특정 고위험 프로세스에서 AI가 잠시 중단하고 인간의 승인을 받아야만 다음 단계로 진행되도록 설계됐다.

예를 들어, 대형 유통기업이 수천 개 매장의 영업 데이터를 분석하는 업무를 AI 에이전트에 맡겼다면, 이 중 특별히 높은 보상 요청이나 비정상적인 생산성 수치를 포함한 사례는 AI가 인간 분석가에게 검토를 요청하게 된다. 이처럼 대부분의 반복 업무는 자동으로 처리되되, 중요한 의사결정은 인간의 개입을 필요로 하는 하이브리드형 설계가 핵심이다.

믹서스의 플랫폼은 AI 에이전트 제작 자체를 직관적으로 만들었다. 단순한 자연어 명령으로 원하는 기능과 검증 기준을 설정할 수 있으며, 구글 드라이브, 이메일, 슬랙(Slack) 같은 주요 협업 도구들과의 연동도 지원해 실사용자들이 익숙한 환경 안에서 AI를 운용할 수 있도록 했다. 여기에 모델 컨텍스트 프로토콜(MCP)를 지원함으로써, 각 기업의 사내 시스템이나 API와의 유연한 통합도 가능하게 했다.

AI를 실무에 본격 도입하는 과정에서, 많은 기업들은 '사람이 끼어야 한다'는 현실론으로 돌아서고 있다. 박스(Box)의 CEO 애런 레비(Aaron Levie) 역시 "완전 자율주행차가 올 때까지 긴 시간이 걸리는 것처럼, AI 에이전트도 상당한 기간 동안 인간의 통제가 필요할 것"이라고 전망했다.

믹서스는 이런 속도 조절 전략을 통해 향후 2030년까지 AI 에이전트 도입이 1000배까지 확대될 수 있다고 내다본다. 한 명의 감독자가 처리할 수 있는 업무량은 지금보다 50배 늘어나겠지만, 에이전트가 폭발적으로 증가하기 때문에 전체적으로는 다양한 고위험 영역에서 인간 관리를 필요로 하는 규모도 함께 커질 수밖에 없다는 설명이다.

기업 측면에서 보면 이는 인간의 역량이 퇴보하는 것이 아니라 *진화*하는 그림이다. AI에게 반복 업무를 맡기고, 전문가들은 보다 전략적인 판단과 책임이 요구되는 고난도 업무로 이동하는 구조가 자리 잡을 전망이다. 요컨대, AI는 숙련된 인재를 대체하는 것이 아니라 이들의 역할을 확장시키면서 조직 전체의 탄력성과 경쟁력을 강화하는 도구로 작용할 수 있다.

카츠는 "인간 통제를 효과적으로 설계한 기업은 AI를 보다 공격적이고도 안전하게 확장하고, 결국은 산업을 이끌게 될 것"이라며, "풀오토메이션을 무작정 추구하는 기업은 오히려 신뢰와 규제에서 발목을 잡힐 수 있다"고 말했다.

<저작권자 ⓒ TokenPost, 무단전재 및 재배포 금지>

광고문의 기사제보 보도자료

많이 본 기사

관련된 다른 기사

댓글

댓글

0

추천

0

스크랩

스크랩

데일리 스탬프

0

말풍선 꼬리

매일 스탬프를 찍을 수 있어요!

데일리 스탬프를 찍은 회원이 없습니다.
첫 스탬프를 찍어 보세요!

댓글 0

댓글 문구 추천

좋은기사 감사해요 후속기사 원해요 탁월한 분석이에요

0/1000

댓글 문구 추천

좋은기사 감사해요 후속기사 원해요 탁월한 분석이에요
1