오픈AI가 인공지능 모델의 학습 과정에서 개인정보 처리 위험을 낮춘 기술을 개발하고, 이를 내년 공식 공개할 계획이다. 특히 프라이버시 보호 수준을 끌어올릴 수 있는 이 기능은 향후 전 세계 개발자들에게 새로운 기준을 제시할 것으로 보인다.

17일 서울 용산구에서 열린 ‘글로벌 프라이버시 총회(GPA) 2025’에서 제이슨 권 오픈AI 최고보안책임자(CSO)는 ‘프라이버시 필터’라는 기술의 개발 현황과 성능을 소개했다. 이 기술은 인공지능이 문장이나 이미지를 학습하는 과정에서 개인 정보가 과도하게 포함되거나 노출되는 문제를 줄이는 데 초점이 맞춰져 있다. 실제로 기존 모델 대비 더 뛰어난 보안성과 안정적인 성능을 확인했다고 밝혔다.

오픈AI는 현재 해당 기술 외에도 프라이버시 권리에 대한 사용자의 이해를 돕는 기능을 실험 중이다. 권 CSO는 “AI 시스템을 통해 개인이 자신의 권리를 확인하고, 어떻게 행사할 수 있을지를 직접 묻고 배울 수 있는 기능도 개발 중”이라며, 단순한 챗봇 기능을 넘어 권리 교육의 도구로 AI가 진화하고 있음을 강조했다.

청소년 이용자를 위한 기능도 확대될 예정이다. 오픈AI는 만 18세 미만 사용자를 위한 전용 챗GPT를 별도로 출시할 계획이다. 이에 따라 부모나 보호자에게는 콘텐츠 제한 기능과 자녀 활동 알림 기능이 제공되며, AI가 위험한 언어 사용이나 이상 징후를 감지하면 즉각 보호자에게 알려주는 체계를 도입한다고 설명했다.

이날 행사에서 권 CSO는 범용 인공지능(AGI)이 본격적으로 사회에 활용되기 전 고려해야 할 핵심 쟁점도 짚었다. 그는 AGI 시대에는 AI가 인간의 역할을 대체하기보다, 인간의 시간을 덜어주는 도구로 작동해야 하며, AI와 나누는 민감한 대화가 범죄 악용으로 이어지지 않도록 법적, 제도적 장치가 필요하다고 언급했다. 또, AI가 경제 성장에 미칠 수 있는 잠재적 기여로는 국내총생산(GDP)의 0.2∼2%를 제시하며 기대감을 드러냈다.

한편, 오픈AI는 최근 서울대학교와 업무협약(MOU)을 맺고, 한국 최초의 AI 데이터 거버넌스 센터 설립도 추진 중이다. 이는 보다 투명하고 책임 있는 AI 개발 생태계를 구축하려는 시도의 일환으로 풀이된다.

이 같은 흐름은 향후 글로벌 AI 기업들이 개인정보 보호와 기술 발전을 동시에 추구하는 방향으로 전략을 조정하게 할 수 있으며, 각국 정부와의 협력을 통한 제도적 뒷받침이 중요한 과제로 부상할 가능성이 크다.