인스팅트, 타 사용자 정보 노출 부인…48시간 환각 탐지 작업

인스팅트(Instinct)에서 다른 사용자의 금융 문서 정보가 노출됐다는 의혹이 제기됐으나, 창업자는 해당 응답이 모델 환각이라고 주장했다.

블록비트는 인스팅트 창업자 노아 신(Noah Shinn)의 설명을 인용해 사용자 데이터가 공유되지 않았고 사용자 간 정보 격리 경계도 침해되지 않았다고 전했다. 의혹을 제기한 이용자는 자신이 보내지 않은 금융 문서와 사진에 관한 설명을 받았다고 주장했다.

노아 신은 팀이 지난 48시간 동안 후속 추론이나 도구 호출이 이뤄지기 전에 인스팅트의 응답을 조정하거나 차단할 수 있는 환각 탐지 시스템을 개발해왔다고 밝혔다. 시스템의 기술 세부사항과 탐지 성능은 공개되지 않았다.