Groom

Groom

研究方向:面向 Agent Harness 的过程级 token 利用评测——把自主智能体的评测从"做对没 / 花了多少"重述为"token 是否被有效利用",以证据驱动的方式对异构 Agent / Harness 做过程级 token 归因与横向比较。

研究范畴

随着大模型驱动的自主智能体从单轮问答走向长程任务执行,其表现由多轮规划、工具调用、环境反馈、错误恢复与最终交付共同决定。但现有评测仍主要看最终是否做对,存在两个盲区:过程不可观测(无法判断成功来自可靠推理还是偶然试错 / 冗余搜索)与成本不可归因(即便完成也难定位 token 究竟消耗在规划、检索、工具反馈、错误恢复还是重复确认)。本方向以证据驱动(不信自我声明、要求执行轨迹中的可审计证据)对异构 Agent / Harness(如 Claude Code / Codex / OpenClaw)做过程级 token 利用归因与比较。社区关注的核心问题包括:成功是否来自可靠推理、token 成本在多阶段中的占比、以及 harness 选择如何系统性影响 token 成本结构。

研究挑战

  • 异构系统的过程观测统一(原生日志不足时需旁路补齐)。
  • token 成本多阶段分解的可靠性与跨系统一致性。
  • “是否真正支撑决策"的可验证判据(区分注入 / 读取 / 有效)。
  • 抗自我声明、可复现、跨系统可比的评测协议设计。

自研项目

  • Groom — 面向 Agent Harness 的过程级 token 利用评测框架:native + sidecar 统一过程观测、token 8 阶段成本分解、Injected / Referenced / Effective 三态证据判据;V0 工具链仅用标准库、已跑通 golden trace 闭环。
  • H-TokenBench — “Benchmarking How LLMs Harness Tokens for Reasoning”,评测 LLM 在推理中如何利用 token 的基准。

相关工作

公开检索(GitHub / arXiv)暂未找到以 “Groom” 为名的同类公开项目或论文。相关公开工作可参考 [[HarnessEvolve]](评测 harness 演进)与 [[EvalEvolve]](进化式评测)方向下的资源。

相关工作(按子主题自动聚合)

令牌消耗 1

基础模型评测 1

技能压缩 1

智能体评测 1

模型路由 1

自我验证 1

裁判模型诊断 1

评测编排 1

轨迹筛选 1

0%