바이트댄스의 대형 모델 조직 Seed가 모델 안전과 정렬을 전담하는 부서를 신설한다. 새 조직은 에이전트 모델의 안전 역량을 높이고 화학·생물·방사능·핵 분야의 첨단 역량 위험에 대응하는 것을 목표로 한다.
PANews는 Seed가 최근 내부 이메일을 통해 ‘Seed Model-Alignment&Preparedness’ 부서 신설을 알렸다고 보도했다. 옌린이 부서를 맡고 Seed 책임자 우융후이에게 보고하며, 기존 Responsible AI팀과 Chat팀 일부 인원이 새 조직으로 이동한다.
정렬은 모델의 행동을 사람의 의도와 안전 제약에 맞추는 작업이다. CBRN은 화학·생물·방사능·핵 분야를 가리킨다.
보도에는 새 부서의 구체적인 권한이나 운영 일정, 인력 규모는 담기지 않았다.
<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>
Most Popular