본문으로 건너뛰기

시간순 trace에서 감사 가능한 점수까지

파이프라인은 시점 (t)에서 사용하는 모든 값이 목표 행동 이전에 관찰 가능하도록 설계됩니다. 변환, 표현, 점수 계산, 평가는 각각 다른 계약을 강제합니다.

1. 인과적 prefix 생성

각 도구 호출에 대해 변환기는 현재 질의, 목표 도구 인자, 같은 trace에서 이전에 관찰된 행동과 응답만 저장합니다. 핵심 불변식은 다음과 같습니다.

query_message_index < action_message_index

응답은 이를 생성한 행동과 결합됩니다. 병렬 호출은 같은 관찰 prefix를 공유하고 세션 ID는 clustered inference를 위해 유지됩니다.

2. Encoder 고정

현재 질의의 정규화된 BGE-M3 임베딩을 q_t ∈ R^d, 후보 j의 고정 임베딩을 c_j ∈ R^d라고 하면 baseline은 다음과 같습니다.

s_reset(t, j) = q_tᵀ c_j

과거 행동은 한 번만 encoding하고 index로 gather한 뒤 인과적으로 집계합니다. 작은 adapter가 상태 residual r_t를 생성합니다.

s_state(t, j) = norm(q_t + r_t)ᵀ c_j

반복 목표에는 multi-positive contrastive objective를 사용해 같은 정답 인자가 in-batch negative가 되지 않게 합니다.

3. 목표 빈도를 명시적으로 분리

도구 조건부 학습 횟수 n_g,j에서 중심화된 log-count prior를 계산합니다.

p_g,j = log(n_g,j + α) - mean_k∈C log(n_g,k + α)

최종 점수는 다음과 같습니다.

s(t, j) = s_state(t, j) + λ_t p_g(t),j

Gate λ_t는 별도 방법으로 보고하며 상태 효과에 숨겨 넣지 않습니다.

4. 두 후보 세계 평가

  • all_splits: 모든 split으로 만든 transductive closed vocabulary
  • train_split: 학습에서 관찰된 후보만 포함

Coverage는 ranking 품질과 함께 보고합니다. 후보에 없는 목표는 제외하지 않고 miss로 계산합니다.

5. 주장 스트레스 테스트

증거 패키지는 tool-heldout split, URL negative control, cross-configuration transfer, session-clustered significance, rewrite 모델 비교와 TAU-bench 외부 경계 실험을 포함합니다.