샘 올트먼(Sam Altman) 오픈AI CEO가 엔비디아($NVDA)의 AI 안전 시스템이 인공지능과 AI 에이전트의 모든 위험을 막는 만능 해법은 아니라고 지적했다는 보도가 나왔다.
오데일리는 올트먼의 발언을 전하며 엔비디아의 안전 시스템만으로 AI 위험을 완전히 통제하기는 어렵다는 취지라고 보도했다.
엔비디아는 AI 에이전트를 제한된 환경에 격리하는 OpenShell과 에이전트의 행동을 감시하는 Sentry로 구성된 Open Agent Safety Platform을 공개했다. AP는 이 플랫폼이 AI 에이전트가 일으킬 수 있는 문제를 억제하는 장치지만, AI 모델의 기만이나 실수까지 자동으로 막는 종합 해법은 아니라고 보도했다.
<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>
Most Popular