Skip to content

建立 Eval Regression Gate ​

背景 ​

随着 Prompt 和 Context 模块的演进,Agent 的行为变得越发复杂。传统的端到端断言(仅检查输出文本)无法发现“工具调用链错误”或“静默打转”等轨迹级退化。

设计目标 ​

  • 在 CI 阶段拦截 Agent 能力的静默退化。
  • 保障核心工具链和收敛机制的稳定性。

架构设计 ​

扩展 eval/ 框架,在 EvalCase 中引入 expect 字段断言。通过消费底层 Trace 事件,强制校验 mustUseTools、maxToolCalls 和 stopReason。在 GitHub Actions 中增加 eval-gate Job,运行核心(critical)用例子集,失败则阻塞合并。

影响评估 ​

  • 正向:Prompt 修改的安全性大幅提升。
  • 负向:CI 耗时增加(约 106 秒);受 LLM 非确定性影响,偶发误报。

基于 MIT 协议发布