구글에서 선호하는 출처로 추가
바이트댄스 시드, AI 안전·정렬 연구자 10명 모집
김민준 기자
바이트댄스의 AI 연구 조직 시드가 안전·정렬 연구팀을 신설하고 초기 연구자 10명을 채용한다. 베이징·상하이와 미국 산호세에서 모델 안전 평가와 정렬 연구를 맡을 인력을 찾는다.
토포AI로 이 기사 더 깊이 읽기
바이트댄스의 AI 연구 조직 시드(Seed)가 안전·정렬 연구팀을 신설하고 초기 연구자 10명을 모집한다. 베이징·상하이와 미국 산호세에서 모델 안전 평가와 정렬 연구를 맡을 인력을 찾는다.
시드는 10월 14일 공개한 채용 공고에서 ‘Alignment & Preparedness’ 팀을 새로 만들었다고 밝혔다. 회사는 해당 분야에 장기적으로 투자하고 최첨단 모델 연구에 맞는 자원과 지원을 제공하겠다고 공고에 적었다. 시드 공식 채용 공고와 중국 경제매체 차이신(财新)의 관련 보도를 대조해 핵심 내용을 확인했다.
연구 범위는 모델 행동 규칙과 안전 정책 수립, 안전성 평가 체계 구축, 정렬 학습, 자동 레드팀, 미래 위험 대비 등이다. 레드팀은 모델에 의도적으로 공격을 가해 취약점이나 실패 가능성을 찾는 검증 방식이다. 시드는 외부 연구자와 독립 평가기관의 참여도 제시했다.
AI 정렬은 모델의 행동이 사람의 의도와 안전 기준에 부합하도록 만드는 연구 분야다. 이번 채용 공고는 안전 연구를 모델의 학습·평가·배포 과정에 반영하겠다는 시드의 조직 계획을 담았다.
바이트댄스는 앞서 대형 모델용 데이터 생산과 보안 관리를 전담하는 ‘AI 데이터 및 보안’ 부서를 신설한 바 있다. 이번에는 시드 안에 안전·정렬 연구팀을 마련해 모델 연구와 안전성 검증을 함께 다루게 됐다.
공고에서 확인되는 내용은 팀 신설, 초기 채용 규모, 연구 주제와 근무 지역이다. 팀 예산과 채용 완료 시점, 연구 성과는 공개되지 않았다. 가상자산이나 블록체인과의 직접적인 연관성도 이번 채용 발표에서 제시되지 않았다.
댓글 0
불러오는 중…