엔씨소프트, AI 챗봇에 '세이프가드' 탑재…게임 보안 새 기준 세운다

연합뉴스

2025.09.30 (화) 11:08

엔씨소프트가 자사 AI 챗봇에 독자 개발 기술 '세이프가드'를 공식 탑재하며 게임 산업 특화 AI 보안 체계를 고도화했다. 챗봇이 단순 응답을 넘어 실시간 감시·규제 역할까지 수행한다.

엔씨소프트, AI 챗봇에 '세이프가드' 탑재…게임 보안 새 기준 세운다 / 연합뉴스

엔씨소프트가 자사 AI 고객상담 챗봇에 독자 개발한 안전성 기술을 공식 적용하면서, 게임 산업 특화형 인공지능 보안 체계가 한층 고도화되고 있다. 특히 기존 AI 안전 기준을 넘어 게임 이용자의 실제 경험과 산업 특성까지 반영한 점이 주목된다.

엔씨소프트의 AI 전문 조직 NC AI는 9월 30일, 고객 상담용 챗봇 서비스 ‘엔써(NCER)’에 AI 안전성 기술 ‘세이프가드(Safeguard)’를 정식 탑재했다고 밝혔다. 세이프가드는 단순히 욕설이나 차별적 언어를 걸러내는 수준을 넘어, 게임 내 불법 행위 유도나 유료 아이템 관련 꼼수 등 산업 전반의 복합적인 문제 상황에 대응하도록 고안된 기술이다.

이번 기술의 핵심은 AI 보안 전략을 체계적으로 운용하는 세 개의 팀 조직에 있다. 이 중 '레드팀'은 AI의 취약점을 악용할 수 있는 새로운 공격 방식, 소위 ‘AI 탈옥’ 시도를 연구하고, '블루팀'은 그에 대한 대응 기술을 구축한다. ‘퍼플팀’은 이들의 연구와 결과를 종합해 챗봇의 정책과 필터링 기준으로 반영하는 역할을 맡는다. 즉, 보안 위협을 먼저 실험하고, 방어 기술을 대응 개발한 다음, 이를 실시간 정책으로 전환하는 선순환 구조를 갖춘 셈이다.

엔씨소프트는 이뿐 아니다. 퍼블리싱코디네이션 센터와의 협업을 통해 게임 산업 특화 정책인 '챗봇 네거티브 규제 정책'도 별도로 수립했다. 일반적인 AI 안전 표준이 차별, 혐오, 욕설 등의 사회적 부적절 표현 차단에 주력하는 반면, 이번 정책은 결제 시스템을 악용한 편법, 게임 규정을 우회하는 행위처럼 실질적 게임 플레이 과정에서 발생할 수 있는 문제들까지 대응 범위를 넓혔다.

세이프가드는 대표 게임 ‘리니지W’와 ‘리니지2M’에도 이미 적용 중이며, 이들 게임에서는 다국어 기반 광고 탐지 기술과 스팸 필터링 시스템이 게임 채팅을 실시간 감시하고 있다. 총 13개 언어의 의심 표현을 분석해 차단하는 이 시스템은 글로벌 유저 환경에서 건전한 커뮤니케이션 질서 유지에 기여하고 있는 것이 특징이다.

AI 안전성 분야에 대한 기술 투자와 정책 강화는 앞으로 국내 게임 산업 전반에 영향을 미칠 가능성이 있다. AI 챗봇이 단순 고객 대응을 넘어 실시간 감시와 예방 기능을 갖추게 되면서, 기업들은 점점 더 높은 수준의 책임 있는 기술 개발을 요구받고 있다. 이에 따라 게임사들은 AI 기술 도입 시, 단순 효율성보다 '신뢰성과 윤리성'을 우선 고려하는 흐름으로 전환될 전망이다.

뉴스를 실시간으로...토큰포스트 텔레그램 가기

광고문의 기사제보 보도자료

#AI챗봇 #AI보안 #게임사 #엔씨소프트 #리니지 #챗GPT규제 #NCAI