이더리움 공동 창립자 비탈릭 부테린은 최근 X(구 트위터)를 통해 단순한 인공지능(AI) 거버넌스 체계가 보안상 큰 취약점을 가지고 있다고 지적했다.
그는 AI 모델이 쉽게 '탈옥(jailbreak)’ 프롬프트에 노출돼 자금이 엉뚱한 곳으로 상당 규모 유출될 수 있다고 경고했다. 부테린은 이러한 문제를 예방하고 해결하기 위한 대안으로 '정보 금융(info finance)' 모델을 제시했다.
그는 해당 모델이 공개 시장, 무작위 점검, 인간 배심원 등 다양한 사회 기반 메커니즘을 통해 모델 간 다양성을 확보하고, 잘못된 의사결정을 신속하게 바로잡을 수 있다고 설명했다.
이번 발언은 AI 의사결정 투명성과 보안이 세계적 이슈로 떠오른 가운데, 블록체인 기반 거버넌스 시스템의 역할에 대한 논의를 자극하고 있다.
출처: X @WuBlockchain
<저작권자 ⓒ TokenPost, 무단전재 및 재배포 금지>