시간순 trace에서 감사 가능한 점수까지
파이프라인은 시점 (t)에서 사용하는 모든 값이 목표 행동 이전에 관찰 가능하도록 설계됩니다. 변환, 표현, 점수 계산, 평가는 각각 다른 계약을 강제합니다.
1. 인과적 prefix 생성
각 도구 호출에 대해 변환기는 현재 질의, 목표 도구 인자, 같은 trace에서 이전에 관찰된 행동과 응답만 저장합니다. 핵심 불변식은 다음과 같습니다.
query_message_index < action_message_index
응답은 이를 생성한 행동과 결합됩니다. 병렬 호출은 같은 관찰 prefix를 공유하고 세션 ID는 clustered inference를 위해 유지됩니다.
2. Encoder 고정
현재 질의의 정규화된 BGE-M3 임베딩을 q_t ∈ R^d, 후보 j의 고정 임베딩을
c_j ∈ R^d라고 하면 baseline은 다음과 같습니다.
s_reset(t, j) = q_tᵀ c_j
과거 행동은 한 번만 encoding하고 index로 gather한 뒤 인과적으로 집계합니다. 작은 adapter가
상태 residual r_t를 생성합니다.
s_state(t, j) = norm(q_t + r_t)ᵀ c_j
반복 목표에는 multi-positive contrastive objective를 사용해 같은 정답 인자가 in-batch negative가 되지 않게 합니다.
3. 목표 빈도를 명시적으로 분리
도구 조건부 학습 횟수 n_g,j에서 중심화된 log-count prior를 계산합니다.
p_g,j = log(n_g,j + α) - mean_k∈C log(n_g,k + α)
최종 점수는 다음과 같습니다.
s(t, j) = s_state(t, j) + λ_t p_g(t),j
Gate λ_t는 별도 방법으로 보고하며 상태 효과에 숨겨 넣지 않습니다.
4. 두 후보 세계 평가
all_splits: 모든 split으로 만든 transductive closed vocabularytrain_split: 학습에서 관찰된 후보만 포함
Coverage는 ranking 품질과 함께 보고합니다. 후보에 없는 목표는 제외하지 않고 miss로 계산합니다.
5. 주장 스트레스 테스트
증거 패키지는 tool-heldout split, URL negative control, cross-configuration transfer, session-clustered significance, rewrite 모델 비교와 TAU-bench 외부 경계 실험을 포함합니다.