安全与监管已更新 2026-06-21 · 版本 1.0
人工审批关卡
人工审批关卡在定义的检查点暂停自动化工作流，以便人员在执行建议的操作之前进行审查、编辑或拒绝——特别是针对高影响、不可逆或受监管的操作。它是人机回环（human-in-the-loop）监督的运行形式。
证据: 行业观察置信度: 高来源: 行业观察来源: 论文
定义
人工审批关卡是在高影响自动化操作之前插入的控制检查点，人员在操作执行前对其进行审查并批准、编辑或拒绝。
问题
让 AI 系统自主执行高影响操作会带来代价高昂、不可逆或违规的错误风险，且人类无法进行判断。
适用场景
对于错误成本超过审查延迟的操作，请使用审批关卡：例如支付、删除、外部通信、生产变更或任何受监管的事项。
解决方案
在敏感操作之前插入一个检查点：系统准备好包含足够上下文的建议操作，然后暂停并将其路由给人工进行批准、编辑或拒绝。批准后继续执行；超时则安全回退。每个决策都会记录在日志中以备审计。
仅对高影响步骤设置关卡，而不是所有步骤——过度设置关卡会破坏自动化的价值并导致审批疲劳。根据风险选择检查点。
组件
基于风险的检查点建议操作预览批准 / 编辑 / 拒绝超时与安全回退审计日志
优势
- 防止代价高昂或不可逆的错误。
- 保持由人类承担责任。
- 满足合规和监督要求。
- 建立信任，从而逐步实现自主性。
风险
- 增加延迟并限制吞吐量。
- 如果审查人员缺乏上下文或时间，审批会流于形式。
- 关卡过多导致审批疲劳。
- 如果审查人员不可用，会造成瓶颈。
不适用场景
- 适用于低影响、易于逆转的操作。
- 适用于吞吐量要求高且风险低的情况。
- 适用于确定性护栏可以安全自动批准的情况。
技术
LangGraph (interrupts)Workflow / approval systemsAudit logging
示例
- 智能体起草退款，人工在发放前进行审批。
- 生产变更在部署前暂停以等待签字批准。
- 外发电子邮件在发送前排队等待审查。
生产实践证据
- 上下文
- 智能体可能触发不可逆或受监管操作的企业工作流——退款、账户变更、外部通信、生产部署。
- 场景
- 智能体准备好包含完整上下文的操作并暂停；审查人员对其进行批准、编辑或拒绝；批准后执行，超时则安全回退。每个决策都会记录在日志中。
- 技术
- 具有中断功能的工作流引擎（例如 LangGraph）、审批队列/UI 以及审计日志。
- 负载
- 仅对少数高影响步骤设置关卡；大部分低影响步骤自动运行，因此审查人员的工作量保持在有限范围内。
- 结果
- 观察到的模式：不可逆的错误在执行前被拦截，责任由人类承担，代价是设置关卡的步骤增加了延迟。请根据风险设置关卡，并在您自己的工作流中衡量审批延迟和流于形式率——这些是参考观察结果，而非保证的数据。
KPI
- 审批延迟
- 操作在关卡处等待的时间；该模式的核心成本，也是寻找瓶颈时首先需要关注的指标。
- 拒绝 / 编辑率
- 人工拒绝或编辑的建议比例——接近零通常意味着审批流于形式，非常高则意味着智能体尚未获得信任。
- 吞吐量与设关步骤对比
- 每小时完成的任务数与设置关卡的步骤数对比；过度设置关卡会导致吞吐量骤降。
- 超时 / 回退率
- 操作触发超时并采用安全回退的频率；该比例上升表明审查人员过载。
已观测到的失效模式
- 审批流于形式：当审查人员缺乏上下文或时间时，他们会在没有真正审查的情况下予以批准，从而使关卡失效。
- 对低影响步骤过度设置关卡导致审批疲劳和瓶颈。
- 未定义安全回退时，超时后静默自动执行。
- 建议中上下文不足，导致人类无法做出知情决策。
经验教训
- 根据风险设置关卡，而非默认设置——自动执行低影响步骤，并将关卡保留给不可逆或受监管的操作。
- 为审查人员提供足够的上下文以及明确的批准/编辑/拒绝选项，以防止审批流于形式。
- 始终定义超时安全回退；绝不静默执行设置了关卡的操作。
- 记录每个决策以备审计——关卡也是您的合规证据。
常见问题
- 这与人机协同（human-in-the-loop）有什么不同？
- 它是人机回环原则的具体实现：工作流中敏感操作之前的特定审批检查点。
- 审批难道不会拖慢一切吗？
- 只有在过度设置关卡时才会如此。根据风险应用关卡——自动执行低影响步骤，并将审批保留给高影响、不可逆或受监管的操作。
- 超时会发生什么？
- 定义安全回退：挂起操作、升级或取消。绝不能仅仅因为无人响应就静默自动执行设置了关卡的操作。