美 NIST, 자율 AI 에이전트 표준화 이니셔티브 출범

미국 국립표준기술연구소(NIST)가 자율 인공지능 에이전트의 사용이 기업과 정부 환경에서 활발해짐에 따라, 이를 위한 기술 표준과 지침을 개발하는 'AI 에이전트 표준 이니셔티브'를 시작했다. NIST의 AI 표준 및 혁신 센터가 주도하는 이 프로그램은 AI 에이전트와 관련된 상호운용성, 정체성 및 보안 문제를 해결하는 것을 목표로 한다.

AI 에이전트는 신뢰성, 인증, 기존 인프라와의 안전한 통합 등 다양한 문제를 야기할 수 있다. 이러한 에이전트 기반 시스템을 코딩, 작업 흐름 자동화, 연구 및 작업 실행에 적용하면서 이러한 문제들이 더욱 두드러지게 되었다. 이 이니셔티브는 산업 주도의 표준 개발을 촉진하고, 연방 기관 및 국제 기구와 협력해 AI 에이전트가 외부 시스템 및 다른 에이전트와 소통하는 방법에서의 단편화를 줄이는 것을 목표로 한다.

중요 초점 중 하나는 정체성 및 허가 문제이다. AI 에이전트는 지속적인 운영이 가능하고, 여러 시스템에 연이어 접근할 수 있기 때문에 이러한 에이전트가 어떻게 인증되며, 권한이 어떻게 범위지어지며, 활동이 어떻게 기록되고 감사되는지가 중요한 건축적 고려사항으로 떠오르고 있다.

NIST는 기존 사이버 보안 프레임워크를 에이전트 기반 시스템에 확장할 기술 접근 방식을 탐구하고, 새로운 모델이 요구되는지 여부를 조사할 계획이다. 또한 플랫폼 간의 상호운용성을 지원하기 위해 개방형 프로토콜 개발을 장려할 예정이다. 이를 위해 NIST는 민간 부문 개발자, 연구 기관 및 표준 조직의 폭넓은 참여를 이끌어 내기 위해 커뮤니티 주도의 표준 과정도 추진한다.

이 이니셔티브의 일환으로 NIST는 에이전트 보안 위험, 정체성 모델 및 배포 고려사항에 대한 공공 의견을 구하는 정보 요청을 발표했으며, 자율 AI 시스템의 보안 및 관리를 위한 잠재적인 기술 프레임워크를 설명하는 개념 문서도 개발 중이다.

오펜시브 보안 서비스 기업 코발트 랩스의 기술 책임자 군터 올만은 "NIST의 표준 개발 추진은 산업계에 환영받아야 하지만, 표준만으로는 악용을 방지할 수 없다"며, 보안 검증, 지속적인 테스트 및 적대적 시뮬레이션이 병행 발전해야 에이전트가 공격 조건에서 어떻게 행동하는지 이해할 수 있다고 강조했다.