跳到正文
从这里开始

选择 PromptBeat 还是 AgentBeat?

按被测系统边界和证据需求选择对应的评测产品。

先看被测系统,再看产品名称。

  1. **被测行为是模型响应吗?**选择 PromptBeat。
  2. **系统能否在 HTTP Agent 边界后执行动作或改变状态?**选择 AgentBeat。
  3. **两个层面都重要吗?**分别运行两款产品,不要把一个产品的分数当成另一层的证据。
维度PromptBeatAgentBeat
产品状态已公开发布的模型与 Prompt 评测包独立 HTTP Agent 评测器,v0.5.0 起以独立程序正式发布
被测对象模型与 Prompt 驱动的 endpoint黑盒 HTTP Agent
主要输入PromptBeat project、Scenario、Seed、Provider 配置完整 AgentCase、已注册 Target Deployment、评分 profile
主运行时Go CLI + PromptfooGo RunAgentEvaluation;不使用 Promptfoo
执行后端当前红队与评测流水线使用 PromptfooAgentBeat 使用独立原生 Go 运行时,不使用 Promptfoo
观测范围Provider 请求/响应与评测结果L1 最终响应;可选 L2 Evidence;可选 L3 状态校验
评分将后端 assertion/result 归一化为 PromptBeat 产物确定性 component + LLM Judge,并输出带层级范围的指标
命令可用性promptbeat run --config … --output-dir … 已进入公开产品包v0.5.0 提供 agentbeat eval-run < eval-run.json;旧的 v0.3-agentbeat-preview.1 适配器 Release 不支持
SDK 要求无L1 无需 SDK;JS/Python helper 可选用于 Target transport 与 L2 Evidence
适用场景Prompt injection、越狱、策略与拒答回归工具使用、任务完成、行为边界、环境影响

RAG 助手、Coding Assistant 或业务自动化 Agent 可能同时暴露两个边界。PromptBeat 可以评测模型/Prompt 的响应行为;AgentBeat 可以独立评测 Agent 对外可观察的行为与状态影响。

模型 / Prompt 边界 ── PromptBeat ── 响应评测
HTTP Agent 边界 ── AgentBeat ── 响应 + 分层 Evidence

同时使用是一种架构选择,不是强制顺序。PromptBeat 不负责为 AgentBeat 生成必需输入,AgentBeat 也不是 PromptBeat 运行的“更深模式”。