에이전트는 검색 전에 무엇을 기억해야 하는가?
일반적인 dense retriever는 현재 질의를 임베딩하고 고정된 후보 집합의 순위를 정합니다. 도구를 사용하는 에이전트에게는 이미 시도한 검색, 열어 본 파일, 보낸 도구 인자, 관찰한 응답과 같은 시간순 상태가 더 있습니다.
이 프로젝트는 다음의 제한된 질문을 다룹니다.
시간순 상태의 인과적 요약이 다음 도구 인자를 예측할 때 고정 dense retriever의 질의 표현을 개선할 수 있는가?
주요 과제는 공개 Hermes reasoning trace에서 다음 인자를 검색하는 것입니다. 고정 encoder는
BAAI/bge-m3이고, 학습되는 부분은 가벼운 query-side residual입니다. 후보 임베딩은 고정됩니다.
왜 신호를 분리해야 하는가
분포 내 성능 향상은 최소 세 신호에서 나올 수 있습니다.
- 현재 질의 의미 — 지금 무엇을 요청하는가.
- 시간순 상태 — 이 세션에서 앞서 무엇이 일어났는가.
- 목표 빈도 — 학습 데이터에서 어떤 인자가 자주 등장했는가.
세 신호를 모두 “메모리”라고 부르면 결과를 과장하게 됩니다. 따라서 구현은 상태와 목표 빈도 prior를 서로 다른 점수 항으로 노출하고 각 ablation을 별도로 보고합니다.
현재 증거가 지지하는 범위
- 유지된 세션 상태는 Hermes search-query 주 과제에서 reset 대조군보다 성능이 좋습니다.
- 분리된 목표 prior는 상태 residual 단독보다 더 큰 분포 내 향상을 만듭니다.
- 결과는 목표 유형, 후보 어휘, 도구 분포에 의존합니다.
- support gating은 도구 분포 이동에서 무손실이 아닙니다.
- 외부 TAU-bench 결과는 낮은 train-only 후보 coverage에 제한됩니다.
이 프로젝트가 아닌 것
이 저장소는 production retrieval SDK도, 범용 agent-memory benchmark도 아닙니다. 긍정 결과와 반례, provenance가 연결된 산출물을 함께 보존하는 재현 가능한 연구 패키지입니다.