분석 선택 86% AI 선호와 일치…최종 권고 효과는 유의하지 않아

AI 에이전트와 통계 분석을 한 전문가들의 네 가지 선택 중 86%가 에이전트에 비공개로 설정된 선호 방향과 일치했다. 그러나 에이전트의 선호가 최종 사업 권고에 미친 직접 효과는 통계적으로 유의하지 않았다.

앤트로픽(Anthropic)은 10월 27일 공개한 연구에서 인과 추론 경험이 있는 분석가 61명을 모집했다고 밝혔다. 이 가운데 AI 에이전트를 사용한 50명의 판단을 분석했다.

과제는 가상의 농업협동조합이 유료 자문 프로그램을 확대할지 판단할 수 있도록 통계 자료를 검토하는 것이었다. 인과 추론은 관찰된 자료를 바탕으로 한 요인이 결과에 미친 영향을 따지는 분석이다.

분석가들은 생산성 측정 방식, 비교 방법, 평가 대상 농가의 범위, 농가별 가중치를 선택해야 했다. 어느 선택도 유일한 정답으로 정해져 있지 않았다.

연구진은 동전 던지기로 각 에이전트가 선호할 방향을 정하고 분석가에게는 알리지 않았다. 에이전트에는 선호를 뒷받침하는 논거를 제시하되, 자료를 왜곡하거나 결과를 숨기지 말라고 지시했다.

네 가지 선택의 항목별 일치율은 81~92%였다. 전체 86%는 분석가 50명 중 86%가 AI의 최종 결론을 따랐다는 뜻이 아니라, 네 가지 분석 선택이 에이전트의 선호와 일치한 비율이다.

논문의 사전 등록 주 분석은 무작위로 설정된 에이전트 선호가 분석 선택 확률에 미친 평균 효과를 72%포인트로 추정했다. 95% 신뢰구간은 60~83%포인트였다.

최종 사업 권고에서는 차이가 작았다. 에이전트가 확대를 선호한 경우 분석가의 54%가 확대를 권고했고, 에이전트가 반대 방향을 선호한 경우에는 36%가 확대를 권고했다.

최종 확대·중단 권고에 대한 직접 효과는 사전 등록 주 분석에서 통계적으로 유의하지 않았다. 추정치는 0.17, 95% 신뢰구간은 −0.06~0.40이었다.

다만 앞선 네 가지 선호만으로 최종 권고를 82% 정확도로 예측한 탐색적 분석 결과도 제시됐다. 프로그램 연장을 택한 사례를 제외한 표본 내 계산이며, 다수 의견만 따랐을 때의 기준치는 61%였다.

사후 설문 응답자 48명 중 77%는 적어도 한 차례 에이전트의 주장을 자신의 설명에 되풀이했다. AI를 출처로 언급한 비율은 15%였고, 최종 권고가 AI보다 자신의 판단에 가깝다고 답한 비율은 52%였다.

AI 사용 집단의 작업 시간 중앙값은 65분이었고, 중대한 방법론 오류를 낸 사람은 50명 중 3명이었다. AI를 쓰지 않은 11명은 작업 시간 중앙값이 90분이었으며 6명이 중대한 오류를 냈다.

비사용 집단은 인원이 적고 평균 경험도 부족했다. 연구진은 집단 간 차이를 AI 사용의 효과로 단정할 수 없다고 설명했다.

다른 결과를 보고한 연구도 있다. 7월 30일 arXiv에 제출된 ‘AI Sycophancy and Decisions’ 프리프린트는 1500명이 30개 의사결정 과제를 수행한 결과, AI 조언이 평균적으로 참가자의 기존 선택 성향을 완화했다고 보고했다.

두 실험은 대상과 설계가 달라 결과를 직접 비교하기 어렵다. 앤트로픽 실험은 전문가의 분석 업무에서 에이전트 선호를 무작위로 숨겨 설정했으며, 한 분야의 가상 과제에서 클로드 오퍼스 4.8 한 모델을 사용하고 선호를 강하게 드러내도록 했다.

앤트로픽 연구진은 에이전트가 선택지 양쪽의 논거를 제시하거나 조언 전에 전문가의 판단을 먼저 묻는 방식을 후속 연구 과제로 제안했다. 이번 실험은 가상자산 시장이나 투자 판단에 대한 영향은 측정하지 않았다.