논평: AI 자율 에이전트 '군집', 플랫폼 여론 조작 위험 키운다

여러 국가의 대학·연구기관 연구진이 국제학술지 사이언스(Science)에 발표한 논문에서, 향후 온라인 여론 조작이 단순한 봇넷이나 트롤 계정이 아닌 수많은 AI 기반 자율 에이전트 '군집(cluster)' 형태로 진화할 것이라고 경고했다.

연구에 따르면 이들 AI 군집은 인간 행동을 정교하게 모방하고, 계정 특성·플랫폼 환경에 맞춰 표현 방식을 유연하게 바꾸며, 장기간에 걸쳐 특정 내러티브를 반복·강화하는 방식으로 여론에 영향을 미칠 수 있다. 이 때문에 스팸 탐지나 개별 위반 행위에 초점을 맞춘 기존 위험 관리·검열 시스템은 효과가 크게 떨어질 수밖에 없다는 분석이다.

연구진은 현재 주요 플랫폼들이 신원 확인, 계정 남용 모니터링, 비정상적 집단 행동에 대한 투명성 확보, 외부 감사 체계 등에서 구조적 한계를 안고 있다고 지적했다. 단순히 콘텐츠 검열에 의존하는 대응 방식만으로는 향후 등장할 AI 군집형 여론 조작을 막기 어렵다며, 계정·행위 기반의 종합적인 방어 체계 구축이 필요하다고 강조했다.