씽킹머신스랩, AI 지수 31점 신형 모델 공개

씽킹머신스랩(Thinking Machines Lab)이 새 인공지능 모델 Inkling 2 Small을 공개했다. 아티피셜 애널리시스 모델 목록에는 AI 지수 31점으로 표시됐다.

회사는 5일 공식 발표문에서 Inkling 2 Small이 전체 5940억개 파라미터 가운데 추론 시 170억개를 활성화하는 전문가 혼합(Mixture-of-Experts·MoE) 모델이라고 밝혔다. 이미지를 입력받을 수 있고, 작업에 사용하는 추론량도 조절할 수 있다.

전문가 혼합 모델은 여러 부분 가운데 입력 처리에 필요한 일부를 활성화하는 구조다. 전체 파라미터 규모와 실제 추론 때 활성화되는 규모가 다르다.

회사는 이미지 입력을 지원하지만 오디오 입력은 지원하지 않는다고 밝혔다. 추론량을 조절할 수 있다는 점도 공개했다.

아티피셜 애널리시스(Artificial Analysis) 인텔리전스 인덱스 v5.0의 상세 점수는 30.6점이다. 아티피셜 애널리시스 모델 목록에는 31점으로 표시됐다.

두 점수는 상세 표와 목록의 표기 차이다. AI 지수는 정답률을 뜻하는 백분율이 아니다.

7월 공개된 Inkling-Small은 전체 2760억개 중 120억개, Inkling은 전체 9750억개 중 410억개의 파라미터를 추론 시 활성화한다. Inkling 2 Small은 전체 규모와 활성 파라미터 규모 모두 두 모델 사이에 있다. 이름의 ‘Small’은 모델 자체의 절대 크기보다 회사 제품군 안의 상대적 구분에 가깝다.

◇ 안전성 검증 뒤 가중치 공개 계획

현재 Inkling 2 Small은 씽킹머신스랩의 Tinker에서 이용할 수 있다. 이 플랫폼에서 답변 생성과 추가 학습에 활용할 수 있지만, 가중치를 내려받을 수는 없다.

앞선 Inkling과 Inkling-Small은 가중치가 공개돼 개발자가 직접 내려받아 활용할 수 있었다. 본지는 앞서 씽킹머신스랩의 공개 모델 전략을 다룬 바 있다.

씽킹머신스랩은 외부 안전성 평가와 레드팀 검증을 마친 뒤 다음 주 전체 가중치를 Apache 2.0 라이선스로 공개할 계획이라고 밝혔다. 정확한 공개 날짜는 발표문에 적지 않았다.

추가 플랫폼 제공도 안전성 검증을 마친 뒤 수주 안에 진행할 계획이다. 가중치 공개와 추가 플랫폼 제공 일정은 모두 회사가 발표한 계획이다.

◇ 웹사이트 제작 순위는 AI 지수와 별개

DesignArena 순위표는 6일 오전 9시 5분(한국시간) 갱신본에서 Inkling 2 Small을 1335점, 4위로 표시했다. 씽킹머신스랩 발표문에 실린 5일 점수는 1340점이다.

DesignArena는 이용자가 모델이 만든 웹사이트를 익명으로 비교하고 선호하는 결과에 투표하는 방식으로 순위를 매긴다. 따라서 이 순위는 웹사이트 제작 결과에 대한 이용자 선호도를 반영하며 AI 지수와는 평가 대상과 방식이 다르다.

씽킹머신스랩은 도구가 많은 코드 작업에서 적절한 도구를 고르거나 답변을 간결하게 구성하는 데 약점이 있다고 설명했다. 채팅 답변의 구성과 표현도 이전 모델보다 덜 다듬어졌다고 자체 평가했다.