GOV-003框架更新于 2026-06-21 · 版本 1.0
NIST AI 风险管理框架
NIST AI RMF 1.0 是一个自愿采用且被广泛接受的框架，用于管理整个生命周期中的 AI 风险。它围绕四个功能展开——治理（Govern）、映射（Map）、测量（Measure）和管理（Manage），以及一套可信 AI 的特征（有效且可靠、安全、安全且有弹性、可问责且透明、可解释、隐私增强以及管理有害偏见的公平性）。配套的生成式 AI 配置文件（Generative AI Profile）使其适用于 GenAI 风险。与《欧盟 AI 法案》不同，它不是法律，但它是运营 AI 治理的通用支柱。
证据: 行业观察置信度: 高来源: 论文来源: 行业观察
NIST AI RMF
定义
NIST AI 风险管理框架是一个自愿性框架，旨在帮助组织治理、映射、测量和管理 AI 系统的风险，同时追求可信 AI 的特征。
范围
任何行业中设计、开发、部署或使用 AI 的组织。它是自愿性的且以结果为导向，旨在根据具体背景进行定制，并与标准和法规配合使用。
关键要求
- 四大核心功能：治理（Govern，文化与问责）、映射（Map，背景与风险）、测量（Measure，评估与跟踪）、管理（Manage，优先级与响应）。
- 治理（Govern）是横向贯穿的——它是其他三个功能的基础。
- 定义了要追求的可信 AI 特征，而不仅仅是要避免的风险。
- 配套的生成式 AI 配置文件（NIST AI 600-1）应对了 GenAI 特有的风险。
- 自愿且灵活——旨在进行定制，而非用于认证。
- 能与 ISO/IEC 42001（管理体系）和《欧盟 AI 法案》（法律）良好配合。
控制措施
- 治理（Govern）
- 建立使风险管理落地的政策、问责制、文化和角色——这是其他功能赖以建立的基础。
- 映射（Map）
- 确立背景：在构建之前，明确 AI 系统的预期用途、利益相关者以及风险和影响。
- 测量（Measure）
- 使用定量和定性的方法来评估、基准测试和监控风险与可信度——无法测量就无法管理。
- 管理（Manage）
- 随着时间的推移，对风险进行优先级排序、响应和跟踪，包括事件响应和退役。
- 可信度特征
- 将有效、安全、可靠、可问责、可解释、隐私增强和公平的结果作为明确的设计目标。
清单
- 01建立治理（Govern）功能：政策、问责制和角色。
- 02映射每个系统的背景、预期用途、利益相关者和风险。
- 03定义指标并测量（Measure）有效性、安全性、可靠性、偏见和鲁棒性。
- 04管理（Manage）：确定风险优先级、规划应对措施并进行长期跟踪。
- 05针对 GenAI 系统应用生成式人工智能配置文件（Generative AI Profile）。
- 06为已部署系统设置事件响应和监控。
- 07将该框架映射到您在 ISO 42001 和《欧盟人工智能法案》（EU AI Act）下的义务。
常见误区
- 只进行映射（Map）和测量（Measure）却忽略了治理（Govern），导致无人对结果负责。
- 测量容易测量的指标，而不是对可信度至关重要的指标。
- 将其视为一份核对清单，而不是一种持续的风险管理实践。
- 在 LLM 和智能体（agentic）系统中忽略了生成式人工智能配置文件（Generative AI Profile）。
示例
- 团队在构建前使用“映射”（Map）来记录智能体的预期用途和利益相关者。
- “测量”（Measure）步骤，根据评估集对模型的偏差和鲁棒性进行基准测试。
- “管理”（Manage）流程，包含针对已部署 GenAI 助手的事件响应。
常见问题
- NIST AI RMF 是强制性的吗？
- 不是。它是一个自愿性框架。但它被广泛采纳为运营 AI 风险管理的通用语言和骨干，并经常在政策和采购中被引用。
- 这四个功能是什么？
- 治理（Govern）、映射（Map）、测量（Measure）和管理（Manage）。治理是横向贯穿的，支持其他三个贯穿整个 AI 生命周期的功能。
- 它是如何处理生成式 AI 的？
- 通过配套的生成式人工智能配置文件（Generative AI Profile，即 NIST AI 600-1），该文件识别了 GenAI 特有的风险，并提出了映射到这四个功能的建议行动。