링크가 복사되었습니다.

링크복사
공유
댓글

OriginTrail | AI의 답은 얼마나 믿을 수 있을까? DKG V10의 Trust Gradient

코인이지

2026.09.30 09:40:43

AI가 답변에 출처를 붙였다고 해서 그 내용이 모두 같은 수준으로 검증된 것은 아닙니다.

한 AI가 개인 메모에 적어둔 가설과, 여러 에이전트가 함께 검토한 결론, 식별 가능한 발행자가 온체인에 기록한 지식은 서로 다른 신뢰 수준을 가집니다. 하지만 대부분의 서비스에서는 이를 단순히 ‘검증됨’ 또는 ‘검증되지 않음’으로만 표시합니다.

OriginTrail DKG V10은 이러한 이분법 대신 Trust Gradient, 즉 지식이 만들어지고 공유되고 검증되는 과정에 따라 신뢰 상태를 단계적으로 구분하는 구조를 제시합니다. 공식 문서에는 Draft, Shared, Self-attested, Endorsed, Partially-verified, Consensus-verified의 여섯 단계가 정의돼 있습니다.

모든 지식을 처음부터 검증할 필요는 없다

AI 에이전트가 작업하는 동안에는 수많은 가설과 메모, 중간 결과가 만들어집니다.

연구 에이전트는 아직 확인하지 않은 자료를 임시로 정리할 수 있고, 개발 에이전트는 여러 해결책을 비교하기 위한 초안을 작성할 수 있습니다. 이러한 정보까지 모두 블록체인에 기록하고 여러 검증자의 확인을 받는다면 비용과 시간이 지나치게 커집니다.

반대로 금융 거래나 제품 인증, 연구 결과처럼 다른 사람이 이를 근거로 행동해야 하는 정보는 단순한 개인 메모와 똑같이 취급해서는 안 됩니다.

DKG V10은 지식이 처음부터 완성되고 검증된 상태로 만들어진다고 가정하지 않습니다. 지식은 개인 작업에서 시작해 필요한 경우 동료와 공유되고, 검토와 발행, 검증 과정을 거치면서 더 높은 신뢰 상태로 이동합니다.

기억 계층과 신뢰 상태는 서로 다르다

OriginTrail DKG V10에는 세 가지 기억 계층이 있습니다.

Working Memory는 한 에이전트가 사용하는 비공개 작업 공간입니다. 초안과 수집한 문서, 아직 검토되지 않은 가설을 저장하며 기본적으로 로컬 노드 안에 머뭅니다.

Shared Working Memory는 선택한 지식을 특정 동료나 에이전트와 공유하는 공간입니다. 같은 Context Graph에 참여한 여러 에이전트가 내용을 읽고 수정하거나 다음 작업에 활용할 수 있지만, 아직 블록체인에 발행된 영구 기록은 아닙니다.

Verifiable Memory는 선택된 지식을 Knowledge Asset으로 발행하고 온체인 commitment와 연결하는 계층입니다. 발행된 각 버전에는 암호학적 무결성과 출처 정보가 연결되며, 이후 내용을 변경할 경우 기존 기록을 조용히 덮어쓰는 대신 새로운 상태가 남습니다.

기억 계층은 주로 지식이 어디에 저장되고 누구에게 공개되는가를 구분합니다. Trust Gradient는 그 지식이 어느 정도까지 작성·검토·검증됐는가를 나타냅니다.

따라서 온체인에 발행된 Verifiable Memory라고 해서 자동으로 최고 단계인 Consensus-verified가 되는 것은 아닙니다. 식별 가능한 발행자가 자신의 주장을 온체인에 기록한 Self-attested 상태일 수도 있습니다.

1단계: Draft — 에이전트의 작업 중인 가설

Draft는 작성 중인 에이전트에게만 유용한 로컬 작업 주장입니다.

예를 들어 연구 에이전트가 여러 문서를 읽고 “이 두 사건 사이에 연관성이 있을 수 있다”고 메모했다면, 이는 아직 외부 검토를 받지 않은 Draft입니다. 다른 에이전트가 사용할 수 있도록 공유되지 않았으며, 작성자 자신도 최종 결론으로 확정하지 않은 상태입니다.

Draft는 신뢰도가 낮아서 쓸모없는 정보라는 의미가 아닙니다. 검토 이전의 아이디어와 가설을 안전하게 발전시키기 위한 출발점입니다. OriginTrail은 이러한 정보가 Working Memory에서 시작하도록 설계했습니다.

2단계: Shared — 다른 참여자가 볼 수 있는 주장

Shared는 Context Graph의 동료나 다른 에이전트가 확인할 수 있도록 공유된 상태입니다.

이제 다른 참여자가 내용을 읽고 오류를 지적하거나 추가 자료를 연결할 수 있습니다. 하지만 공유됐다는 사실이 그 내용에 동의하거나 정확성을 보증했다는 의미는 아닙니다.

팀 채팅방에 문서를 올리는 것과 비슷합니다. 여러 사람이 볼 수는 있지만, 공식 승인이나 검토가 완료된 것은 아닙니다. DKG에서는 이러한 협업이 Shared Working Memory에서 이뤄집니다.

3단계: Self-attested — 누가 발행했는지 확인할 수 있다

Self-attested는 식별 가능한 Publisher가 해당 지식을 자신의 책임으로 발행한 상태입니다.

Knowledge Asset에는 소유권과 출처, 암호학적 무결성이 연결되기 때문에 누가 언제 해당 내용을 발행했는지 확인할 수 있습니다. 이후 데이터가 변경됐는지도 추적할 수 있습니다.

그러나 Self-attested는 제3자가 내용의 정확성을 확인했다는 뜻이 아닙니다.

어떤 기업이 “이 제품은 특정 조건을 충족한다”고 온체인에 발행했다면, 기업이 해당 주장을 했다는 사실과 기록이 변경되지 않았다는 점은 검증할 수 있습니다. 하지만 제품이 실제로 조건을 충족하는지는 별도의 검토가 필요합니다.

즉, 온체인 발행은 주장의 출처와 무결성을 증명하지만, 주장 자체를 자동으로 진실로 만들지는 않습니다.

4단계: Endorsed — 다른 참여자가 지지를 추가한다

Endorsed는 발행자 외의 추가 참여자나 애플리케이션별 검토자가 해당 Knowledge Asset을 지지한 상태입니다.

예를 들어 한 연구 에이전트가 결과를 발행한 뒤 다른 연구자나 전문 에이전트가 자료와 방법을 검토하고 동의할 수 있습니다. 제품 인증 기록이라면 제조사의 Self-attested 주장에 검사기관의 Endorsement가 추가될 수 있습니다.

OriginTrail은 실제 CLI에서도 발행된 Knowledge Asset에 특정 에이전트가 Endorsement를 추가하는 명령을 제공합니다.

다만 Endorsement 역시 보편적인 진실 판정은 아닙니다. 누가 어떤 기준으로 지지했는지를 함께 확인해야 합니다. 익명의 한 계정이 지지한 경우와, 해당 분야의 승인된 기관이 검토한 경우는 같은 의미를 갖지 않습니다.

5단계: Partially-verified — 일부 검증 기준을 충족한다

Partially-verified는 미리 정한 검증 정족수 가운데 일부를 충족했지만, 완전한 합의에는 도달하지 않은 상태입니다.

예를 들어 다섯 개의 독립 검증자 중 세 명의 확인이 필요한 Context Graph에서 현재 두 명만 검증했다면, 해당 지식은 일부 근거를 확보했지만 아직 최종 합의 상태는 아닙니다.

이 단계는 현실의 검토 과정이 한 번에 끝나지 않는다는 점을 반영합니다. 일부 기관이나 에이전트는 동의했지만 추가 검토가 필요한 상황을 ‘검증됨’ 또는 ‘미검증’ 가운데 하나로 억지로 분류하지 않습니다.

6단계: Consensus-verified — 정해진 합의 정책을 통과한다

Consensus-verified는 해당 Context Graph가 정한 정족수나 Oracle 절차를 충족한 상태입니다.

중요한 점은 OriginTrail 전체에 하나의 보편적인 진실 판정 기준이 존재하는 것이 아니라는 것입니다. 의료 연구와 공급망 인증, 소프트웨어 테스트는 각각 필요한 검증자와 기준이 다릅니다.

따라서 Consensus-verified는 “세상 모든 사람이 사실이라고 인정했다”는 의미가 아닙니다. 해당 지식 영역이 사전에 정한 검증 정책을 충족했다는 의미에 가깝습니다.

OriginTrail 공식 문서도 Endorsement나 Verification을 Context Graph의 정책에서 분리된 일반적인 버튼처럼 다뤄서는 안 된다고 설명합니다. 신뢰 상태를 이해하려면 누가 참여했고 어떤 기준을 통과했는지를 함께 확인해야 합니다.

Context Graph마다 검증 기준이 달라진다

Context Graph는 특정 프로젝트와 팀, 연구 분야, 애플리케이션의 지식을 구분하는 작업 공간입니다.

Context Graph는 공개형 또는 Curated 형태로 운영할 수 있습니다. 공개 그래프는 더 넓은 참여자가 발견하고 구독할 수 있고, Curated Graph는 승인된 에이전트와 참여자에게만 작성·발행 권한을 부여할 수 있습니다. 읽기 권한과 발행 권한도 별도로 설정할 수 있습니다.

예를 들어 오픈소스 프로젝트에서는 여러 개발자가 자유롭게 정보를 공유하되, 공식 릴리스 기록은 승인된 Maintainer만 발행하도록 설정할 수 있습니다.

공급망 Context Graph에서는 제조사와 물류사, 검사기관이 각각 다른 역할을 맡을 수 있습니다. 제조사가 생산 기록을 Self-attested로 발행하고, 물류사가 운송 이력을 Endorse하며, 정해진 검사기관의 검증이 완료됐을 때 Consensus-verified 상태로 전환하는 방식입니다.

Trust Gradient는 이러한 산업별 규칙을 하나의 고정된 신뢰 점수로 바꾸지 않습니다. 각 Context Graph가 어떤 참여자와 정책을 신뢰할 것인지 정의하도록 합니다.

AI는 답변과 함께 신뢰 상태도 밝혀야 한다

OriginTrail 공식 문서는 에이전트가 근거를 제시할 때 자신이 어떤 기억 계층을 사용했는지 밝혀야 한다고 설명합니다.

“Working Memory에서 찾은 정보”와 “온체인에 발행되고 검증된 정보”는 같은 방식으로 전달해서는 안 된다는 것입니다.

예를 들어 AI가 다음과 같이 답변할 수 있습니다.