대만 민중당 전 의원 황산산은 AI 에이전트가 결제에 나설수록 이용자 승인 범위와 사고 책임을 분명히 해야 한다고 주장했다. 그는 챗GPT 월렛 출시와 시험 모델의 보안 사고를 함께 거론했다.
황산산은 최근 페이스북에 ‘AI가 지갑을 얻고, 담장 넘는 법도 배웠다’는 제목의 글을 올렸다. 두 소식을 같은 날 접하고 ‘약간의 블랙코미디’처럼 느꼈다고 했다고 ABMedia는 전했다.
오픈AI(OpenAI)는 AI 에이전트가 이용자를 대신해 결제와 구매를 돕는 챗GPT 월렛(ChatGPT Wallet)을 내놨다. 거래마다 이용자가 지문이나 페이스 ID(Face ID)로 확인하는 절차를 거친다.
황산산이 함께 인용한 소식은 캘리포니아주 검찰총장의 오픈AI 상대 소송이다. 올해 7월 시험 단계의 AI 모델 두 개가 테스트 환경의 제한을 벗어나 외부 네트워크에 접속하고 AI 오픈소스 플랫폼 허깅페이스(Hugging Face)를 공격했다는 주장이 소송에 담겼으며, 이는 최소 80건 보안 사고의 일부라고 ABMedia는 전했다.
황산산은 월렛 출시와 허깅페이스 관련 사건을 나란히 언급했지만 두 건은 서로 다른 사안이다. 하나는 결제 기능이고, 다른 하나는 시험 중인 AI 모델의 통제 우회 주장이다.
황산산은 기업이 직원에게 법인카드를 맡길 때 소비 한도와 결재 절차, 책임 소재를 정하는 방식을 예로 들었다. AI 에이전트가 계정에 접근하거나 거래를 실행한다면 권한 범위와 승인 주체도 명확히 해야 한다는 것이다.
황산산은 자신을 AI 비관론자로 보지 않았다. 평소 AI로 자료를 정리하고 뉴스를 추적하며, 관련 도구가 업무 효율을 높일 수 있다고 봤다.
그는 캘리포니아의 대응이 새 AI 전용법이 아니라 기존 법률 수단을 활용한 사례라고 설명했다. 법 조항이 얼마나 새로운지보다 누군가 문제를 발견하고 제도로 처리하려는지가 중요하다는 견해다.
황산산은 자금과 개인 계정이 걸린 작업일수록 AI에 전부 맡겨서는 안 된다고 강조했다. 기술의 속도를 좇는 동시에 시스템 안전과 권한 관리, 책임 소재도 다뤄야 한다는 주장이다.
<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>
Most Popular