EU AI Act 针对高风险 AI 系统的全部要求将于 2027 年 12 月 2 日 正式生效。最严重的违规行为可处以高达 3500 万欧元或全球年营业额 7% 的罚款。本指南涵盖你所需的一切：哪些 AI 系统受影响、合规逐条要求几何、如何证明合规，以及一份切合实际、逐月推进的路线图。
EU AI Act 究竟监管什么
EU AI Act（法规 (EU) 2024/1689）是全球首部针对人工智能的综合性法律框架。它于 2024 年 7 月 12 日 在《欧盟官方公报》上发布，并于 2024 年 8 月 1 日 生效。
与监管你如何处理个人数据的 GDPR 不同，AI Act 监管的是 AI 系统本身——它们在整个生命周期中如何被设计、训练、记录、监控与治理。
它适用于谁：
- 任何在欧盟市场投放 AI 系统或在欧盟将其投入使用的 提供者（开发者、制造商）
- 任何在专业场景下于欧盟境内使用 AI 系统的 部署者（运营者）
- 当其 AI 系统的输出在欧盟境内被使用时，设立于欧盟境外 的提供者与部署者
一家为欧洲客户构建 AI 的美国、英国或加拿大公司同样受本法约束。无需在欧盟有市场存在——只需有市场影响。
实施时间表：哪些已经生效
- 2024 年 8 月 1 日： 法规生效
- 2025 年 2 月 2 日： 受禁止的 AI 实践（第 5 条）——已经生效并可强制执行
- 2025 年 8 月 2 日： 通用目的 AI（GPAI）模型义务——已经生效
- 2026 年 8 月 2 日： 有限风险透明度义务（第 50 条）适用
- 2027 年 12 月 2 日： 法规对高风险 AI 系统（附件 III）及所有其余条款全面适用
- 2028 年 8 月 2 日： 作为已受欧盟协调立法（附件 I）监管产品之安全组件的高风险 AI
受禁止的 AI 条款并非未来才需操心之事。它们是当下的法律。如果你的 AI 系统涉及第 5 条所列的任何一种实践，你已经处于违规状态。
风险分级：你的 AI 处在哪个层级？
不可接受风险——自 2025 年 2 月 2 日起即被禁止
以下实践依据 第 5 条 被彻底禁止，并适用最高一档的处罚：
- 公共机关基于行为、社会处境或个人特征进行的 社会评分
- 执法部门在公众可进入空间内进行的 实时远程生物识别（仅在事先获得司法授权、用于侦办特定严重犯罪的狭窄例外情形下方可）
- 推断敏感属性——种族、政治观点、工会成员身份、宗教信仰、性取向、犯罪记录状况——的 生物特征分类（执法部门有有限例外）
- 利用心理弱点或脆弱性、以违背个人利益的方式扭曲行为的 潜意识或操纵性手段
- 工作场所或教育机构场景下的 情绪识别（出于特定安全或医疗原因者除外）
- 仅基于个人画像或人格特质评估的 预测性警务
- 通过抓取互联网图像或闭路电视录像、且无特定法律依据而建立的 人脸识别数据库
如果你的 AI 做了上述任何一项：立即停止。这些不是临近的截止期限——它们是当下的违规行为。
高风险——须在 2027 年 12 月 2 日前完成全面合规
高风险 AI 系统在本法 附件 III 中逐项列明。在投放市场之前，它们须经过合格评定、完整技术文档、CE 标识以及在欧盟 AI 数据库中的注册。
有限风险——透明度要求（2026 年 8 月 2 日）
依据 第 50 条，与人交互或生成内容的 AI 系统必须披露其性质：
- 对话式 AI 与聊天机器人 必须明确告知用户其正在与 AI 系统交互，除非这一点从上下文中显而易见
- AI 生成的合成媒体——深度伪造、合成语音、机器生成文本——必须标注为人工生成或经过操纵
- 情绪识别与生物特征分类系统 必须告知被识别者此类系统正在被使用
最低风险——无强制性要求
用于垃圾邮件过滤、推荐引擎、内部分析、预测性维护以及大多数内部工具的 AI，不承担特定义务。鼓励采用自愿性实践守则。
完整的附件 III：八大高风险类别
如果你的 AI 系统落入以下任一类别，自 2027 年 12 月 2 日起即适用全面合规义务。
1. 生物识别系统
远程生物识别、对自然人的生物特征分类，以及情绪识别系统（除非落入受禁止类别）。例外：用于确认个人即其所声称身份的生物特征验证（一对一匹配）不在此列。
2. 关键基础设施
用作关键基础设施网络与系统管理之安全组件的 AI：公路、铁路、航空、航运、电网、供水、燃气、供暖系统以及数字基础设施。“安全组件”指其失效可能危及生命或基本服务者。
3. 教育与职业培训
- 决定进入或录取教育机构的资格
- 评估学习成果，包括自动评分与监考
- 评估受教育程度、技能或资历水平
- 在考试期间监测受禁止的学生行为
4. 就业、员工管理与自雇
这是对大多数企业而言覆盖面最广的一类：
- 招聘流程中的简历筛选与候选人甄选、排序
- 关于聘用、晋升与解雇的决策
- 员工的任务分配与绩效监控
- 对员工的监控、评估或情绪行为评估
5. 基本私人服务与公共服务
- 针对个人的信用评分与信用状况评估
- 基于个人画像的人寿保险与健康保险风险评估
- 紧急服务调度与分诊优先级排序
- 对公共服务、福利及基本私人服务的获取
6. 执法（仅限执法机关）
- 评估个人作为犯罪受害者或加害者风险的风险评估工具
- 测谎仪及类似的真实性测试工具
- 评估刑事诉讼中证据可靠性
- 基于画像预测犯罪或再犯行为
- 在刑事侦查中对个人进行画像
7. 移民、庇护与边境管控
- 评估个人在边境处非正规移民或安全风险的风险评估
- 核验旅行证件的真实性
- 审查庇护申请并裁定难民身份
- 签证与居留许可决策
8. 司法行政与民主进程
- 协助法院研究、解释或将法律适用于事实情形的 AI
- 用于在选举或公投中影响选民，或用于选举与人口普查基础设施的 AI
高风险合规要求几何：第 9—15 条
对于每一套高风险 AI 系统，以下各项都必须落实、记录并持续维护：
第 9 条——风险管理体系
一套覆盖系统全生命周期（从设计到退役）的持续、有据可查的风险管理流程。这不是一次性评估。必需的活动包括：
- 识别并分析对健康、安全与基本权利的已知及 合理可预见的风险
- 估计并评估在真实使用条件下以及在合理可预见的误用中可能出现的风险
- 采取适当的风险缓解措施——优先采用基于设计的措施而非运营性措施
- 就缓解后的任何残余风险告知部署者
第 10 条——数据与数据治理
训练、验证与测试数据集必须：
- 相关——契合预期用途
- 具有代表性——反映系统将被使用的人群与条件
- 在技术可行的范围内 足够完整且无错误
- 受适当的数据治理实践约束——涵盖数据采集方法、来源、数据准备流程与质量检查
你必须审查数据集，排查可能影响系统输出并伤害个人的潜在偏差。在使用个人数据之处，还须额外适用 GDPR 项下的适当数据保护措施。
第 11 条——技术文档
必须在系统投放市场 之前 准备好详尽的技术文档，并在其整个生命周期内保持更新。文档要求在 附件 IV 中规定，包括：
- 总体描述、预期用途以及版本历史
- 设计与开发流程——架构、设计取舍、关键设计决策
- 训练方法、所用数据集、验证与测试程序及结果
- 风险管理文档（第 9 条记录）
- 面向部署者的使用说明
从零开始的话，预计每套系统需 数周 时间。
第 12 条——日志与记录留存
高风险 AI 系统必须在使用过程中自动记录运行情况，以便事后审计。提供者须在系统投放市场后保留技术文档 10 年。部署者须保留自动生成的日志 至少 6 个月，除非其他适用法律要求更长的留存期。
第 13 条——透明度与使用说明
提供者必须向部署者提供清晰、充分的说明，涵盖：
- 提供者身份与联系方式
- 系统的能力与局限，包括已知偏差与可预见的误用
- 预期性能的条件，包括准确率水平及其验证
- 人工监督措施以及部署者应如何落实
- 预期使用寿命及任何必要的维护
第 14 条——人工监督
高风险 AI 系统的设计与开发必须使其在使用过程中能够实现有效的人工监督。部署者必须指派具备资质、经过培训、对监督负责的人员，使其拥有以下能力与权限：
- 充分理解系统的能力、局限与潜在偏差
- 监测并发现异常、故障或意外行为
- 在人工判断有此要求时 推翻、中断或不采纳系统的输出
- 决定在特定情形下不使用 AI 的输出
这绝非走过场。它要求能够真正影响结果的、有实质意义的监督。
第 15 条——准确性、稳健性与网络安全
高风险 AI 系统必须达到适当水平的：
- 准确性： 在使用说明中声明；准确率指标必须基于经过验证的测试结果，而非声称的性能
- 稳健性： 对错误、故障、输入不一致以及对抗性操纵企图的韧性
- 网络安全： 防范未经授权的第三方访问、训练数据篡改、模型投毒与对抗样本
合格评定：证明你的合规
在欧盟市场投放高风险 AI 系统之前，提供者必须完成合格评定，以核实其符合所有适用要求。
存在两条路径：
自我评定（大多数高风险系统）： 对于附件 III 中的大多数类别，由提供者在内部开展合格评定。你需对照每一条款核实合规，准备完整的技术文档，签署 合格声明，并加贴 CE 标识。
第三方公告机构评定（特定系统）： 当 AI 系统用作已受联盟协调立法（附件 I——机械、医疗器械等）约束、且依据该既有法律须接受强制性第三方合格评定的产品之安全组件，并且该 AI 组件实质性地影响安全时，方为必需。公告机构是由欧盟成员国独立认可的机构。
评定完成后，提供者必须：
- 签署欧盟合格声明（第 47 条）
- 向系统及其文档加贴 CE 标识（第 48 条）
- 在投放市场之前于 欧盟 AI 数据库 中注册该系统
欧盟 AI 数据库注册
EU AI Act 创建了一个由欧盟 AI 办公室维护、覆盖全欧盟的高风险 AI 系统公共数据库。提供者必须在投放高风险 AI 系统之前完成注册。
注册内容包括：提供者身份、系统名称、预期用途、地理范围、合格评定路径，以及合格声明的索引。
对于由公共机构在社会福利、执法或边境管控等领域部署的某些高风险 AI 系统，部署者 还必须在该数据库中注册其对系统的使用。
上市后监测与严重事件报告
合规并不在投放市场时画上句号。
上市后监测（第 72 条）： 提供者必须建立一套与系统风险水平相称的上市后监测体系。这涉及在系统的整个运行周期内主动采集并分析性能数据，以识别合格评定阶段未曾显现的任何问题。
严重事件报告（第 73 条）： 当发生严重事件时——即直接或间接造成、或本可能造成死亡、严重健康损害或对基本权利的严重侵害的事件——提供者必须向国家市场监督机关报告。知悉严重事件的部署者必须向提供者报告，并在适用情形下直接向当局报告。
GPAI 模型：自 2025 年 8 月起已承担义务
通用目的 AI（GPAI）模型——在大规模广泛数据上训练、可用于多种任务的基础模型——自 2025 年 8 月 2 日 起即已承担义务。
所有 GPAI 模型提供者当前必须：
- 维护 附件 XI 所规定的技术文档
- 遵守欧盟版权法对训练数据的规定——包括尊重 DSM 指令第 4(3) 条项下的权利保留
- 发布所用训练数据的充分详尽摘要，以实现版权合规透明
具系统性风险的 GPAI 模型——定义为训练算力超过 10^25 次浮点运算（FLOPs） 的模型——承担额外义务：
- 在市场发布前后开展包括对抗性测试（红队演练）在内的模型评估
- 向 AI 办公室报告严重事件与未遂事件
- 实施适当的网络安全措施
- 报告能耗效率
如果你在 GPAI 模型之上构建应用： 你可受益于上游模型提供者的 GPAI 合规。然而，你仍须在应用层面全面承担合规责任——如果你的应用属于附件 III 项下的高风险 AI 系统，你必须为自己的系统完成全套高风险合规流程。
三档处罚结构
AI Act 的处罚机制分为三个层级：
- 受禁止的实践（第 5 条）： 高达 3500 万欧元或上一财年全球年总营业额的 7%——以较高者为准
- 其他违规（高风险要求、GPAI 义务、透明度义务）：高达 1500 万欧元或全球年总营业额的 3%——以较高者为准
- 向公告机构或国家当局提供不正确、不完整或具误导性的信息： 高达 750 万欧元或全球年总营业额的 1.5%——以较高者为准
对于中小企业与初创企业，本法规定国家当局必须考量其财务承受能力与经济可行性。罚款以绝对金额与营业额百分比中的较低者为上限。
这些是最高限额。实际执法将取决于违规的严重程度、持续时间，以及与当局的配合程度。
谁来执行 EU AI Act？
AI 办公室（设立于欧盟委员会通信网络、内容与技术总司之内）负责：
- 直接监督并执行 GPAI 模型提供者的义务
- 协调各成员国间的国家执法
- 维护欧盟 AI 数据库
- 制定指南、标准与授权法案
- 发出警告、要求查阅模型文档并下令采取纠正措施
国家主管机关： 每个欧盟成员国指定一个或多个国家主管机关，在其管辖范围内监督本法的执行。这些通常是既有的、视 AI 系统所属领域而定的行业专属监管机构。
国家市场监督机关： 负责对受既有欧盟产品安全法约束的实体产品中的 AI 进行产品层面的执法。
你的合规路线图
第一阶段——清点与分类
在你的整个组织范围内开展一次全面的 AI 系统清点：
- 当前正在使用或开发中的 AI 系统有哪些？
- 每套系统由谁负责？谁在使用？谁受其输出影响？
- 每套系统直接或间接影响哪些决策？
- 每套系统处理哪些数据？
对识别出的每套系统套用 附件 III 核对清单。大多数显然属于最低风险。把那些落入八大高风险类别的系统以及所有临界情形标记出来，供更深入审查。
大多数组织会对这项工作的结果感到意外。AI 一直在按职能、按团队逐步被采用。影子 AI 部署——未经中央监督而采用的工具——十分常见。
第二阶段——对每套高风险系统做差距分析
对每一套确认的高风险系统，对照第 9—15 条开展一次结构化的差距评估：
- 风险管理流程是否已记录并持续进行？
- 是否有涵盖来源、偏差测试与质量的数据治理记录？
- 是否存在达到附件 IV 所要求水平的技术文档？
- 运行日志是否被适当采集与留存？
- 是否有真正的人工监督机制——不只是一道审查步骤，而是具备推翻的能力？
- 准确性与稳健性指标是否已声明并经过验证？
记录下每一项差距。按合规关键性与整改工作量排定优先级。
第三阶段——技术整改
落实弥合差距的技术措施：
偏差测试： 将 Fairlearn、IBM AI Fairness 360（AIF360）或 Responsible AI Toolbox 等工具集成到你的模型验证流水线中。在部署前以及部署后按计划定期测试人口统计均等、机会均等以及用例专属的公平性指标。
可解释性： 加入 SHAP（SHapley Additive exPlanations）或 LIME，为单个模型输出生成解释。这同时支撑第 13 条的透明度与第 14 条的人工监督。
审计日志： 实施对模型输入、输出、置信度分数、模型版本与决策时间戳的结构化日志记录。确保日志不可篡改、带时间戳并按所要求的期限留存。
人工监督工作流： 为具有重大影响的自动化决策定义并落实审查与升级流程。确保监督人员就系统的能力与局限接受充分培训。
第四阶段——文档与合格评定
- 为每套高风险系统准备达到 附件 IV 标准 的技术文档
- 开展内部合格评定——对照每一条款核实合规，记录结论
- 起草并签署欧盟合格声明
- 启动欧盟 AI 数据库注册
每套高风险系统的这一阶段至少预留四周。对于尚未建立合规优先工作流的团队而言，文档是最耗时的一步。
第五阶段——验证与上线就绪
- 对全部文档完整性进行独立的内部审查
- 对照已声明指标完成最终偏差测试与准确性验证
- 事件响应与严重事件报告程序就位并经过测试
- 上市后监测体系已启用
- 负责人工监督的人员已完成培训与情况说明
- CE 标识已加贴于系统与文档
常见问题
EU AI Act 是否适用于欧盟境外的公司？ 是的。只要你的 AI 系统在欧盟市场投放，或其输出在欧盟境内被使用，本法即适用——无论你的公司总部设在何处。一家向欧洲雇主提供 AI 驱动的 HR 筛选服务的美国公司，即受本法约束。
大语言模型是否受 EU AI Act 约束？ 是的。符合 GPAI 定义的 LLM 自 2025 年 8 月起已承担义务。若被用于诸如简历筛选或信用评估等高风险应用，则无论底层模型的合规状态如何，全套高风险合规机制都适用于应用层。
第 73 条项下什么算作严重事件？ 指直接或间接导致死亡、对个人健康的严重损害、对财产或环境的严重损害，或对基本权利的严重侵犯的事件。提供者必须在其系统上线之前就备好一套报告流程。
我们能否对所有高风险系统进行自我认证合规？ 对于附件 III 中的大多数类别，可以——由提供者进行自我评定是默认的合格路径。仅当高风险 AI 用作受既有欧盟产品安全立法（附件 I）约束、须接受强制性第三方认证的产品之安全组件时，才需要第三方公告机构介入。
如果我们的 AI 系统构建在第三方基础模型之上怎么办？ 作为下游提供者，你须在系统层面承担合规责任。基础模型提供者的 GPAI 合规覆盖模型层。你的合格评定必须涵盖微调数据的数据治理、风险管理体系、日志记录、人工监督，以及你的应用专属的技术文档。
临界情形应如何分类？ 拿不准时，从严归为高风险。一套被当作最低风险对待、事后却被认定为高风险的系统，会让你面临 1500 万欧元/3% 的处罚档。而在经过彻底、有据可查的评估后，将系统从高风险重新归类为最低风险，并不会带来处罚。
Hyperion Consulting 能如何提供帮助
EU AI Act 合规首先是一项工程与组织上的挑战。法律要求会转化为具体的技术义务——偏差测试流水线、可解释性工具、审计日志架构、合格评定流程，以及技术文档工作流。
AI Strategy Sprint： 为期 2—4 周的合作，交付一份完整的 AI 系统清点、附件 III 风险分级、第 9—15 条差距分析，以及一份排定优先级的合规路线图。
Production AI Systems： 合规要求的技术落地——偏差测试流水线、可解释性集成、审计日志、人工监督架构，以及达到附件 IV 标准的技术文档。
2027 年 12 月 2 日的截止期限已写入法律。罚款随营收而非组织规模递增。现在每一周的准备，都抵得上日后好几周的临阵整改。
本指南反映了如 2024 年 7 月 12 日发布于《欧盟官方公报》的法规 (EU) 2024/1689，以及截至 2026 年 7 月生效的各项义务。本文仅供参考之用，不构成法律意见。如需针对你所在司法管辖区的具体意见，请咨询合资格的法律顾问。
