오픈AI, 모델 스펙 5대 가치로 재구성…모델은 GPT로 지칭

오픈AI(OpenAI)가 인공지능(AI) 모델의 행동 기준인 모델 스펙을 다섯 가치 중심으로 재구성하고, 문서에서 모델을 가리키는 표현을 ‘assistant’에서 ‘GPT’로 바꿨다. 개정안은 이용자 의도와 사람의 감독·결정권에 관한 기준을 분명히 하고 세부 말투 지침을 대부분 덜어냈다.

오픈AI는 29일 공식 블로그에서 개정된 모델 스펙(Model Spec)을 공개했다. 이 문서는 챗GPT와 API에서 사용하는 모델이 어떻게 행동해야 하는지를 설명하는 공개 기준이다.

개정 문서의 다섯 가치는 △인간 의도에 대한 충실성 △위해 최소화 △정직성과 투명성 △인간 주도성 △배려다. 오픈AI는 명확한 지시만으로 답이 정해지지 않는 상황에서도 모델이 사람의 의도와 가치를 고려하도록 원칙을 묶었다.

각 가치는 모델이 고려해야 할 판단 기준을 설명한다. 위해 최소화는 안전 경계를 지키고 행동의 예상 결과를 살피는 원칙이며, 정직성과 투명성은 모델이 아는 것과 모르는 것, 실제로 한 일을 정확히 드러내는 데 초점을 맞춘다. 인간 주도성은 사람이 스스로 이해하고 선택하도록 돕고, 배려는 모델의 답변에 영향을 받는 사람들의 상황을 고려하도록 한다.

인간 의도에 충실하다는 것은 지시를 글자 그대로 따르는 데 그치지 않는다는 뜻이다. 구직 제안을 비교하는 사례에서 모델은 이용자가 앞서 밝힌 ‘예측 가능한 근무시간’ 선호를 참고할 수 있지만, 그 전제를 드러내 이용자가 쉽게 바로잡을 수 있게 해야 한다. 이용자를 조용히 특정 선택으로 유도하거나 대신 결론을 내려서는 안 된다.

새로 추가된 ‘문맥을 신중히 고려하라’는 항목은 대화와 기억, 파일 등에서 얻은 정보가 현재 요청과 관련 있는지 살피도록 한다. 정보의 출처와 범위, 최신성을 따지고 개인정보와 이용자의 통제권을 존중해야 한다. 과거 대화의 내용을 맥락 없이 현재 지시로 취급하지 않도록 하는 기준이다.

사람의 감독에 관한 원칙도 보강됐다. 모델은 정당한 감독과 수정에 응하고, 자신의 행동과 불확실성, 오류를 감독자가 파악할 수 있게 해야 한다. 지시가 충돌할 때는 오픈AI가 경계를 정하고, 개발자는 그 범위 안에서 애플리케이션을 지시하며, 이용자는 다시 그 안에서 모델의 작업을 지시하는 체계를 따른다.

반면 답변의 말투를 세세하게 규정하던 지침은 대부분 정리됐다. 문서는 표현 방식이 언어와 문화, 개인의 선호와 피드백에 따라 달라질 수 있다고 본다. 이용자나 개발자가 특정 관점을 요청할 수 있지만, 모델이 이용자가 듣고 싶어 할 것이라고 짐작해 먼저 그 관점을 택해서는 안 된다는 원칙은 유지했다.

모델 스펙은 이용 정책이나 안전 프로토콜과는 역할이 다르다. 오픈AI는 모델 스펙이 모델의 바람직한 행동을 설명하고, 이용 정책은 챗GPT와 API를 사용하는 사람에게 적용되는 기준을 다루며, 안전 프로토콜은 위험을 시험·감시·완화하는 절차를 포함한다고 설명한다.

문서에서 ‘assistant’를 ‘GPT’로 바꾼 것은 모델이나 챗GPT의 제품명을 바꾸거나 새 모델을 출시한다는 뜻이 아니다. 개정된 모델 스펙은 제품과 API에 쓰이는 모델이 지향하는 행동을 설명한다.

오픈AI는 현재 모델이 새 기준을 아직 완전히 반영하지 못한다고 문서에 명시했다. 회사는 핵심 가치를 모델에 반영하기 위한 학습 방법을 연구하고 있으며, 관련 결과와 교훈을 향후 업데이트에서 공유하겠다고 밝혔다.