模式更新于 2026-06-21 · 版本 1.0

什么是人机回环（Human-in-the-Loop）模式？

人机回环（Human-in-the-loop, HITL）是一种设计模式，其中由人员在 AI 系统的输出生效之前对其进行审查、批准或纠正——特别是针对高影响力的操作。智能体负责提议，人类负责决策，而不是完全自主。它是管理智能体系统风险的主要控制手段，也是欧盟《AI 法案》和 NIST AI RMF 等 AI 治理框架中的常见要求。

证据: 行业观察置信度: 高来源: 行业观察来源: 论文
机器可读: JSON

定义

人机回环是一种设计模式，其中人类在 AI 系统提议的输出或操作执行之前对其进行审查、批准、编辑或拒绝，从而在定义的决策点引入人类判断。

核心要点

  • 智能体提议；人类批准、编辑或拒绝。
  • 将其应用于高影响力、不可逆或敏感的操作。
  • 它牺牲了一定的自主性和速度，以换取控制力和信任。
  • 治理框架通常在设计上就要求人类监督。
  • 批准和覆盖（overrides）操作应予以记录以备审计。

背景

当操作成本高昂、不可逆或受到监管时，完全自主是存在风险的。HITL 引入了一个检查点：AI 完成工作，人类做出最终决定，在保留大部分效率的同时，将责任保留在人身上。

它也是一种建立信任和促进采纳的策略。团队通常从严格的人工审查开始，然后随着评估表明系统在特定任务上可靠，逐步扩大自主权。

架构

模式：人机回环（human-in-the-loop，由人员批准每个高影响力操作）、人机旁路（human-on-the-loop，由人员进行监控并可进行干预）以及人机监管（human-over-the-loop，定期审查和策略制定）。合适的级别取决于操作的风险。

实现需要一个审批界面、供审查者参考的清晰上下文、编辑或拒绝的能力、超时后的回退行为，以及记录每个决策以供审计。

组件

决策检查点审批界面审查者上下文编辑 / 覆盖升级与回退审计日志

优势

  • 在错误造成危害之前将其捕获。
  • 将责任保留在人身上。
  • 支持合规与治理要求。
  • 建立信任并实现逐步自主。

风险

  • 增加延迟并限制吞吐量。
  • 走过场：审查者未经实质性审查就予以批准。
  • 警报疲劳会降低监督质量。
  • 过度应用会否定自动化的价值。

工具与技术

审批 / 工作流系统具有中断步骤的智能体框架（例如 LangGraph）审计日志记录案例管理 UI

示例

  • 智能体起草退款，由人工在发放前进行批准。
  • 内容智能体，其输出在发布前由人工进行审查。
  • 运维智能体，在进行生产环境变更前暂停以等待签核。

常见问题解答

什么时候应该使用人机回环？
适用于高影响力、不可逆、敏感或受监管的操作，在这些操作中，错误的成本超过了审查带来的延迟。
in-the-loop（人机回环）和 on-the-loop（人机旁路）有什么区别？
In-the-loop 意味着人类在每个操作执行前进行批准；on-the-loop 意味着人类进行监控并可以干预，但系统默认自主运行。
HITL 与自主性冲突吗？
它刻意限制了自主性的边界。许多系统在开始时会进行严格审查，并随着评估证明其在某项任务上的可靠性而逐步扩大自主权。
监管对此有要求吗？
人类监督是一项常见要求——例如，欧盟《AI 法案》强制要求对高风险 AI 系统实施有效的人类监督。

参考文献