GOV-001法规更新于 2026-06-21 · 版本 1.0
EU AI Act
EU AI Act 是欧盟针对人工智能制定的全面的、基于风险的法律。它将 AI 系统划分为不同的风险等级——不可接受（禁用）、高风险（严格义务）、有限风险（透明度义务）和极低风险，并对通用 AI 模型增加了特定合规义务。该法案具有域外效力，适用于任何将 AI 引入欧盟市场的主体，并在数年内分阶段实施，对最严重的违规行为处以最高可达全球年营业额 7% 的罚款。
证据: 行业观察置信度: 高来源: 论文来源: 行业观察
EU AI Act
定义
EU AI Act 是一项横向的欧洲法规，通过风险分级来监管 AI，对提供商和部署商施加与其 AI 系统对健康、安全和基本权利所构成风险相匹配的义务。
范围
在欧盟市场投放 AI 系统或通用 AI 模型，或者其输出在欧盟境内使用的提供商和部署商——无论其注册地在何处。某些用途（例如纯个人用途、特定研究）不属于适用范围。
关键要求
- 基于风险的分级：不可接受（禁止）、高风险、有限风险（透明度）、极低风险。
- 禁止的行为包括社会信用评分以及某些生物识别和操纵性用途。
- 高风险系统需要进行风险管理、数据治理、技术文档记录、日志记录、人工监督、准确性/鲁棒性保障以及上市后监控。
- 通用 AI（GPAI）模型有其自身的透明度要求，对于具有系统性风险的模型，还需承担额外义务。
- 透明度义务：当用户与 AI 交互时必须予以告知，且合成内容必须进行标记。
- 分阶段实施，对不合规行为处以重罚。
控制措施
- 风险分类
- 首先确定每个系统的风险等级——它决定了所有其他合规义务。将高风险系统错误分类是前期代价最昂贵的错误。
- 人工监督（第 14 条）
- 高风险系统必须可由人员进行监督，且该人员能够进行干预或终止系统——这是设置人工审批关卡的监管依据。
- 技术文档与日志记录
- 维护文档和自动事件日志，确保系统在整个生命周期内可追溯、可审计。
- 对用户的透明度
- 披露 AI 交互情况，并对 AI 生成或操纵的内容（深度伪造）进行标记。
- 上市后监控
- 监控实际运行中的性能并报告严重事件；治理并不会在部署后结束。
清单
- 01盘点您的 AI 系统并按风险等级对每个系统进行分类。
- 02确认没有任何系统属于被禁止的行为。
- 03对于高风险系统，建立风险管理、数据治理和技术文档记录机制。
- 04实施人工监督，并具备干预或终止系统的能力。
- 05启用日志记录/可追溯性，并定义上市后监控和事件报告机制。
- 06在需要时增加面向用户的透明度提示和内容标记。
- 07跟踪适用于您系统的分阶段实施日期。
常见误区
- 误以为因为自身处于欧盟境外，该法案便不适用——实际上它具有域外效力。
- 将 GPAI 义务与 AI 系统义务混为一谈；它们是不同的。
- 强行附加无法真正及时干预的人工监督。
- 文档记录不足：缺少技术文档 and 日志是常见的漏洞。
示例
- 被归类为高风险的招聘筛选工具，需要文档记录、人工监督和监控。
- 聊天机器人添加清晰的“您正在与 AI 对话”披露信息，以满足透明度义务。
- GPAI 提供商发布模型文档和训练数据摘要。
常见问题
- EU AI Act 是否适用于欧盟境外的公司？
- 是的。它适用于将其 AI 系统投放到欧盟市场或其输出在欧盟境内使用的提供商和部署商，无论该公司的注册地在何处。
- 什么是“高风险”AI 系统？
- 用于敏感领域（例如就业、信贷、关键基础设施、特定生物识别）或作为受监管产品安全组件的系统。除禁用外，它们承担着最严格的合规义务。
- 它与“人机协同（human-in-the-loop）”有何关系？
- 第 14 条要求对高风险系统进行有效的人工监督——即由能够理解、干预或终止系统的人员进行监督。人工审批关卡模式是实现这一要求的一种方式。