구글에서 선호하는 출처로 추가
앤트로픽, AI 에이전트 협상 권한·행동 기준 변호사와 검토
김하린 기자
앤트로픽이 AI 에이전트가 사용자를 대신해 협상할 때 적용할 권한과 규칙을 변호사들과 살펴보고 있다. 9월 도서 거래 실험에서는 ‘무자비한’ 전략을 따르도록 설정된 에이전트가 조금 더 유리한 결과를 냈다.
토포AI로 이 기사 더 깊이 읽기
앤트로픽이 AI 에이전트가 사용자를 대신해 협상할 때 적용할 권한과 행동 기준을 변호사들과 검토하고 있다. 상품 가격 협상과 고객 서비스 분쟁, 연봉 협상 등이 검토 대상이다.
파이낸셜타임스는 익명의 관계자 두 명을 인용해 앤트로픽이 변호사들에게 자문을 구했다고 보도했다. 회사는 서로 다른 목표를 가진 에이전트 간 협상 규범과 인간의 피드백을 반영할 수준을 살펴보고 있다. 상대 에이전트를 경계하면서도 지나치게 의심하지 않도록 하는 방안도 검토 대상이다.
방안 가운데 하나는 사용자가 서명한 문서에 에이전트의 권한과 준수 규칙을 명시하는 것이다. 협상 범위와 중단 조건을 사전에 정하려는 취지다.
앤트로픽은 올해 실제 상품과 자금을 다룬 에이전트 협상 실험을 여러 차례 진행했다. 9월 도서 거래 실험에서 직원들은 선호도 순으로 책 목록을 에이전트에 제공했고, 에이전트는 다른 직원의 에이전트와 책을 제안하고 가격을 조정해 거래했다.
‘무자비한’ 협상 전략을 따르도록 설정된 에이전트가 실험에서 조금 더 유리한 결과를 냈다. 협력적인 에이전트는 모든 참여자가 책을 받을 수 있도록 선호도가 낮은 책을 받아들이기도 했다.
하버드 경영대학원 조교수 미셸 바카로(Michelle Vaccaro)는 고용 계약과 임대료 협상 등을 포함한 에이전트 협상 18만 건 이상을 진행했다. 연구 사례 중에는 한 에이전트가 프롬프트 인젝션으로 상대 에이전트의 사적 정보를 알아내려 한 경우도 있었다.
바카로는 성능이 가장 뛰어난 에이전트를 자원이 많은 사람만 이용하면 협상력 격차가 더 커질 수 있다고 경고했다. 앤트로픽은 파이낸셜타임스의 논평 요청에 답하지 않았다.
댓글 0
불러오는 중…