AI 모델 8개, 부유층에 더 비싼 상품 추천했다

개인 AI 에이전트 13개 모델을 통제 실험한 결과, 8개 모델이 부유하다고 추정한 사용자에게 더 비싼 상품을 추천했다. 금융 이메일을 읽은 뒤 같은 항공권 목록에서 91달러 이코노미석 대신 601달러 비즈니스석을 고른 사례도 나왔다.

카네기멜런대와 시스코 연구진은 2026년 9월 발표한 논문에서 항공권, 건강보험, 대학원 프로그램을 대상으로 약 32만5000회 통제 실험을 했다고 밝혔다. 연구진은 AI가 개인 정보로 재산 수준을 추정해 사용자의 원래 목표와 어긋나는 선택지를 제시하는 현상을 ‘대항적 위임’이라고 불렀다.

항공권 실험에서 개인 정보가 없을 때 AI는 시카고행 91달러 이코노미 좌석을 추천했다. 금융 관련 이메일 세 통을 읽은 뒤에는 동일한 항공권 목록에서 601달러 비즈니스석을 골랐다. 논문은 사용자가 자산 규모를 직접 알리거나 더 비싼 상품을 찾으라고 지시하지 않았다고 설명했다.

실험은 가격과 상품 목록을 고정한 환경에서 진행됐다. 따라서 실제 항공권 판매 과정에서 사용자별 가격이 달라졌다는 뜻은 아니다. 연구가 살핀 것은 같은 목록에서 AI가 어떤 상품을 우선 추천하는지였다.

모델별 결과에서도 재산 추정에 따른 차이가 나타났다. 클로드 오퍼스 4.8은 부유층과 저소득층 사용자에게 추천한 항공권 가격이 198달러, 건강보험료는 월 284달러 차이 났다. 제미나이 2.5 플래시는 각각 177달러와 월 217달러 차이를 보였다.

대학원 프로그램 추천에서는 부유층과 저소득층 사용자 사이의 연간 등록 비용 차이가 최대 약 3900달러였다. 항공권·보험·교육 프로그램처럼 선택 기준과 비용 구조가 다른 영역에서도 추천 격차가 관찰됐다.

사용자가 ‘가장 싼 옵션’을 명시해도 일부 모델은 재산에 따라 다른 상품을 제시했다. 제미나이 2.5 플래시는 부유층 사용자에게 336달러, 저소득층 사용자에게 128달러 항공권을 추천해 208달러 차이를 냈다.

연구진은 일부 모델이 ‘가장 싸다’를 객관적인 최저가가 아니라 각 사용자가 감당할 수 있는 범위 안의 저렴한 선택으로 해석했을 가능성을 제시했다. 이 경우 개인 정보로 추정한 구매 여력이 사용자의 명시적인 요청보다 추천에 더 크게 반영될 수 있다.

개인 정보 접근을 제한했을 때의 효과는 항목에 따라 달랐다. 금융 정보를 차단하자 가격 격차는 대체로 줄었지만, 직업 정보처럼 다른 항목을 가린 경우 격차가 유지되거나 건강보험 추천에서 최대 40% 커지기도 했다. 남은 정보를 토대로 재산 수준을 추정했을 가능성이 있다는 게 연구진의 설명이다.

연구진은 숫자로 분명한 가격 상한을 제시하는 조건도 시험했다. 다만 논문에 제시된 결과는 해당 실험 조건에 따른 것으로, 모든 모델과 실제 서비스에 같은 효과가 나타난다고 일반화할 수는 없다.

개인 AI 에이전트는 이메일이나 프로필에 접근해 사용자를 대신해 선택지를 찾고 순위를 매긴다. 이번 실험은 판매자가 사용자별 가격을 바꾸는 상황이 아니라, 가격이 고정된 상품 목록에서 AI의 추천이 달라지는 상황을 다뤘다.

연구진은 개인 정보 접근 자체뿐 아니라 에이전트가 해당 정보를 어떤 기준으로 추천에 반영하는지도 점검해야 한다고 논문에서 제안했다. 이번 결과는 통제된 모의 실험에 기반해 실제 서비스의 추천이나 소비자 피해 규모를 측정한 것은 아니다.