第八章 建议到执行
8.3 放权路径:只读 → 建议 → 执行
承前:动作安全层建好了,但并不代表第一天就把执行权限全打开。给 Agent 放权像教徒弟开车——先坐副驾看,再摸方向盘你踩刹车,最后才交钥匙。这一节讲放权的三个阶段、放权节奏怎么用数据决定,以及最容易被忽略的一件事:放出去的权,还要能收回来。
8.3.1 为什么要分阶段,而不是一步到位
上一节我们花大力气建了动作安全层,为什么不全量直接上?因为安全层防的是单次动作出错,放权节奏防的是系统性出错。
即使有确认、幂等、白名单,一个刚上线的执行系统仍然有大量未知:模型在什么场景下会提出错误动作?运营对确认界面的疲劳曲线是什么样?拒绝理由里藏着多少条没文档化的规则?这些问题的答案只有运行数据能给。一步到位等于把所有未知同时暴露到生产流量上。
放权三阶段的基本框架:
阶段一:只读期 阶段二:建议期 阶段三:执行期
┌─────────────┐ ┌─────────────┐ ┌─────────────┐
│ Agent 只查 │ 采纳率 │ Agent 建议 │ 兑现率 │ Agent 执行 │
│ 数据、做分析│ ──────→ │ 人工决定是 │ ──────→ │ 确认后落地 │
│ 不提动作 │ 达标 │ 否采纳 │ 达标 │ 白名单内 │
└─────────────┘ └─────────────┘ └─────────────┘
验证:判断是否 验证:判断是否 验证:执行是否
靠谱(认知) 可信(决策) 安全(落地)三个阶段验证的是三种不同的可信度:只读期验证 Agent 的认知能力(它对业务事实的理解对不对),建议期验证决策能力(它给出的动作建议该不该被采纳),执行期验证落地能力(确认、幂等、回滚这套机制扛不扛得住)。每一关都有独立的晋级标准,跳级的风险就是——认知都没验证完就给了执行权,等于让一个还没学会看地图的人开车。
8.3.2 采纳率:建议期的核心指标
采纳率(adoption rate)的定义很朴素:Agent 提出的建议中,被人工采纳执行的比例。
但这个指标的口径设计有很多讲究,建议在评估集注册(第 3 章讲过的指标口径方法)时一并固化:
- 分子分母:分母是"Agent 给出的明确建议数"(不含"信息不足无法建议"的情况);分子是"人工点击采纳的建议数"。
- 剔除规则:同一建议人工拖了 7 天没处理,算"过期"不计入分母(否则采纳率会被无限稀释)。
- 分层看:按场景分(唤回发券 vs 补偿发券)、按门店分、按建议置信度分。一个整体 88% 的采纳率,拆开看可能是"唤回场景 95%、补偿场景 61%"——低的那块才是下一轮迭代的目标。
采纳率多少算"可以进入执行期"?没有万能数字,经验上是连续两周稳定在某个双方认可的水位(例如 85%+),且剩余拒绝里有明确模式可修。更重要的不是绝对值,而是趋势和可解释性:拒绝理由能归类、能对应到改进动作,说明采纳率是"可经营的";拒绝理由五花八门说不清,说明模型还没理解业务,再高的采纳率也可能是运营无脑点同意刷出来的。
8.3.3 兑现率:执行期的晋级关卡
进入执行期后,核心指标换成了兑现率:Agent 执行的动作中,事后被认定正确且没有被人工撤销的比例。
为什么执行期不看采纳率了?因为在执行模式下,"人点确认"这个动作本身会退化(上一节讲的橡皮图章化)。真正衡量质量的是事后追溯:券发出去之后 7 天内,有没有被作废?有没有触发客诉?会员有没有真实核销、产生复购?这些事后信号才反映动作的真实质量。
兑现率低但采纳率高——典型的橡皮图章信号,要立刻收紧确认流程(增加抽查、强制二级确认)。兑现率高但采纳率低——说明模型判断其实靠谱,是人不信任它,要加强透明度(展示理由、置信度、同类历史案例)而不是改模型。
两个指标的组合读法:
| 采纳率 | 兑现率 | 诊断 | 动作 |
|---|---|---|---|
| 高 | 高 | 健康放权 | 可扩大白名单、提高自动化比例 |
| 高 | 低 | 橡皮图章化 | 收紧 HITL、引入事后抽查 |
| 低 | 高 | 信任缺口 | 加强解释性,展示理由与依据 |
| 低 | 低 | 模型能力不足 | 回到评估集修 bad case,暂缓放权 |
这张表就是"放权节奏由数据决定"的具体化:**每一次扩大权限,都要用采纳率/兑现率的组合做关卡;每一次收回权限,也都有明确的数据触发条件。**放权不是单向门,数据恶化就要收回来——收回本身也要写进放权计划("若兑现率连续两周 < 80%,自动回退到建议模式"),让客户提前知道规则,回退时就不是"事故",是"机制在起作用"。
8.3.4 沙盘:青禾的放权十二周
把三阶段放进青禾优选的时间线(接 W7 数字化总监提的验收要求):
- 第 1-3 周(只读期):助手接入会员、订单、券数据,只做分析和归因,"复购率下滑的主要人群画像是什么"。这一阶段同时跑第 4 章的诊断,验证 Agent 对双轨 ID、脏标签的免疫力。
- 第 4-8 周(建议期):开发两个 Tool(8.2),但连接器以"草稿模式"运行——建议只生成工单,由运营在原有系统里人工执行。每周统计采纳率、收集拒绝理由。
- 第 9-12 周(执行期):采纳率连续两周 ≥ 85%,上线真正的执行通道,白名单先只开放 10 家门店、单券 ≤ 20 元。兑现率每日报送,两周复盘一次,逐步扩门店、提额度。
注意这个节奏里的一个关键设计:建议期用"草稿模式"跑通了完整的工程链路(工具定义、参数校验、工单生成),执行期上线时只是把"生成工单"换成"直接执行"。切换成本低、风险面窄。反过来,如果建议期只做提示词层面的"文字建议",执行期才第一次碰连接器,风险全部堆在切换日。
8.3.5 To B 常识:项目制、订阅制与 SLA
放权路径通常是"项目期"向"订阅期"过渡的窗口,这里补几个 To B 商务常识,纯技术的 FDE 也要懂,因为交付节奏和商务形态是绑定的。
项目制:签 SOW、按里程碑交付验收、结项。适合从 0 到 1 的定制建设——比如你给青禾做的数据诊断、连接器开发就是项目制内容。特点是收入一次性、边界靠 SOW 圈定。
订阅制:按月/年付费持续使用,乙方持续运维升级。Agent 产品天然适合订阅——因为模型在变、规则在变、bad case 永远在出现,"结项"这个概念在 AI 应用里基本不成立。放权路径走得越深(执行期),客户对持续服务的依赖越重,订阅价值越高。
SLA(服务等级协议):订阅制下的服务质量合同。常见条款包括可用性(如月度 99.9%,注意 99.9% 意味着每月允许约 44 分钟停机)、支持响应分级(P1 级事故 15-60 分钟响应、P4 级请求次个工作日响应)、赔偿条款(未达标按月费比例返服务券,通常上限为当月费用)。FDE 要懂 SLA 的原因很实际:你承诺的技术指标(可用性、响应时间、修复时限)会被商务谈判直接量化进合同,一个"评估准确率"的技术指标一旦写进 SLA,就从工程问题变成了赔付问题。上线前(第 9 章专题)务必和商务同事过一遍:哪些指标能进 SLA、哪些只能进"努力目标"。
8.3.6 收权机制:放出去的权要能收回来
放权讲了很多,收权讲得太少——但实践中收权设计的质量决定放权敢走多远。敢放权不是胆子大,是知道随时能收回。
收权要设计三个层次,从软到硬:
| 层次 | 触发条件 | 收权动作 | 恢复条件 |
|---|---|---|---|
| 软收紧(熔断) | 单日拒绝率突增、客诉 > N 条 | 新动作强制二级确认,存量不动 | 触发原因修复、观察 48h |
| 硬回退 | 兑现率连续两周 < 80% | 执行模式整体回退到建议模式 | 重新走 G2 门 |
| 局部降级 | 某门店/某场景兑现率异常 | 只收回该门店/场景的执行权 | 单独复盘通过后恢复 |
关键设计原则:回退要自动化、恢复要人工审。 反过来做(回退靠人拍板、恢复自动)是事故放大器——出问题时每分钟都在多发错券,等开会决定回退已经晚了;而恢复没人审,等于回退形同虚设。触发条件写进放权计划并通知客户侧值班人,回退发生时对方收到的是"机制生效通知",不是"事故通报"。
沙盘里跑一次收权:第 10 周,华东 3 家门店兑现率从 91% 掉到 74%——排查发现是那批门店刚做完会员迁移,双轨 ID 比例突然升高,Agent 把老 ID 上的消费误判为流失信号。系统自动触发局部降级(只收回这 3 家店的执行权),你在周报里写"已回退、原因、预计恢复时间",数字化总监看到的是一个有免疫系统的产品,而不是一个需要救火的产品。客户对可控性的信任,往往来自看你处理一次小事故的样子,而不是看一切顺利的样子。
8.3.7 要点总结
- 放权三阶段各有验证目标:只读验证认知、建议验证决策、执行验证落地;跳级等于把未知一次性砸进生产。
- 采纳率看"人是否买账"(口径要固定:分子分母、剔除、分层),兑现率看"事后是否正确"(防橡皮图章化)。
- 两指标组合成四象限诊断表,放权和收权都以数据为触发条件;回退规则提前写进放权计划。
- 建议期用"草稿模式"先跑通工程链路,执行期只做最后一跳切换。
- 商务形态与交付节奏绑定:项目制建、订阅制养,技术指标一旦进 SLA 就是赔付条款。
参考资料
- As Klarna flips from AI-first to hiring people again — Fortune — Fortune 报道 Klarna 2025 年回摆 hiring 人类客服,说明"全自动放权"被收回的真实案例,与本节放权-回退机制互证。
- OWASP Top 10 for LLM Applications — OWASP 官方 LLM 风险清单,LLM06 过度代理一节给出"渐进授权 + HITL"的分级建议。
- How Incident SLAs Work: Priority, Uptime, and Credits — SLA 条款拆解:P1-P4 分级、可用性换算成停机时长、赔付结构,To B 常识部分的事实来源。
- Building Effective Agents — Anthropic — Anthropic 官方工程指南,"从简单模式起步、验证后再增加自主性"与放权三阶段同构。