EU AI Act 已具备可执行性,且其罚则绝非象征性的。部署被禁止的 AI 系统将面临最高 3500 万欧元或全球年营业额 7% 的罚款。高风险系统的不合规罚款最高可达 1500 万欧元或营业额的 3%。对工业运营方、汽车 OEM、自主系统开发者与能源公用事业而言,利害关系尤为重大:Annex III 明确点名了机械、运输与关键基础设施中的安全组件——而物理部署所需的技术文档,远比软件应用所需的文档严苛得多。我担任法国政府金融与商业数字化转型 AI 大使——我多年身处这部法规的政策一线,与塑造其落地实施的人一同研读条文。这份视角,正是本次合作为你的合规项目带来的东西。
你并不清楚自己的哪些系统在 Annex III 下属于高风险——而对物理部署而言,分级结果落入高风险的可能性比你预期的更高。AI Act 以用例而非技术来界定高风险系统。对物理 AI 而言,相关的 Annex III 类别包括:机械的安全组件(机器人、自主导引车)、运输领域的 AI(ADAS、自动驾驶车辆、UAS)、关键基础设施的安全组件(电力、供水、燃气),以及与就业相关的 AI。一个为安全关键维护决策提供输入的预测性维护模型并非最低风险——它可能就是 Annex III 第 2 点意义下机械的安全组件。
物理部署的 Annex IV 技术文档远比软件应用难做。对软件 AI 系统而言,Annex IV 要求设计文档、训练方法、数据治理、评估指标与已知局限。而对物理 AI 系统——机器人安全组件、ADAS 系统、自主工业车辆——它还要求与物理系统的集成架构、安全包络规范、危害分析、失效模式文档、包络越界测试结果、硬件与固件版本管理记录,以及面向现场部署硬件的上市后监测计划。物理 AI 的多数工程文档一旦接触这一标准便难以幸存。
面向高风险物理 AI 系统的合格评定需要公告机构参与,且耗时数月。团队往往把它当成一项纸面工作来界定范围。但实际上,对高风险物理系统而言,首次向公告机构正式提交便会触发一轮持续数月的澄清周期——而每一项澄清要求都需要你的工程团队拿出证据,这些证据若尚不存在,就必须从零开始创建。在产品已进入预量产阶段才着手准备合格评定文档,为时已晚。
面向物理部署 AI 的上市后监测在运营上十分复杂。该法案要求一份书面的上市后监测计划以及在生产中的主动监测。对软件 AI 而言,这主要关乎模型漂移与准确率监测。而对物理部署的 AI——一支 AGV 车队、一个机器人工作单元、横跨数千辆车的 ADAS 技术栈——上市后监测需要从已部署硬件采集现场数据、OTA 更新管理、带有严格监管时限的现场事件报告,以及大多数软件 AI 可观测性技术栈无法提供的硬件级监测。
合作范围取决于你 AI 足迹的规模以及纳入范围的高风险系统数量。十二周覆盖单个高风险系统;二十四周覆盖由三到五个系统构成、共享治理基础设施的组合。对物理 AI 部署而言,安全与技术文档阶段与你的工程及认证团队并行推进,而非各自独立。
我们为你组织内的每一个 AI 系统——生产、试点、原型——建立一份书面清单,并将每个系统对照 AI Act 的风险类别进行分级。对物理部署而言,这包括对照 Annex III 类别的明确分析:机械中的安全组件(ISO 10218、机械指令)、运输 AI(UNECE R155/R156、车辆型式批准)、关键基础设施 AI(IEC 62443、NIS2)以及其他适用类别。分级连同推理依据与条款引用一并记录在案。那些未经分级便已部署的系统将获得回溯性审查。
针对每个高风险系统,我们并行构建合规产物。对物理 AI 系统而言,这在标准 Annex IV 软件文档之外,还包括与物理系统的集成架构、安全包络规范、危害分析、失效模式覆盖文档、包络越界测试结果,以及硬件与固件版本管理记录。我与你的工程及安全团队协作,按公告机构的标准产出这些文档,并借鉴我在 Physical AI Deployment 合作中所采用的物理 AI 安全文档方法。
我们搭建为物理部署量身调整的上市后监测项目:书面计划、来自已部署硬件的现场数据采集架构、OTA 更新管理与版本追踪、针对涉及物理系统交互的现场事件的事件分类标准,以及带有监管时限的报告工作流。对大规模物理部署(AGV 车队、车辆项目、多站点机器人)而言,监测架构必须能够大规模处理现场数据,而不仅仅是云端模型漂移。
我们为长期运行构建治理基础设施——AI 治理委员会章程、新 AI 系统的受理流程(含物理部署分级快速通道)、周期性审查循环、员工培训项目,以及面向嵌入物理系统的第三方 AI 组件的供应商管理方法。合作结束后,该项目需要在没有我的情况下持续运转。
在 Annex III 第 2 点下于机械或自主导引车中部署 AI 安全组件的制造商。在车辆型式批准及 UNECE R155/R156 下拥有 ADAS 或 AD 技术栈的汽车 OEM 与一级供应商。其产品在机械法规或相关行业法规下构成安全组件的自主系统开发者(UAS、机器人)。在 IEC 62443 与 NIS2 下于关键基础设施安全组件中部署 AI 的能源公用事业。任何 AI 足迹包含物理部署、且其 Annex III 分级明显属于高风险或确实模棱两可的组织。本服务不能替代关于监管策略的外部法律顾问;我负责设计实施合规项目的工程,而你的总法律顾问负责法律定位。
你的律所告诉你法规要求什么;我则构建落实这些要求的项目。对物理 AI 部署而言,这之间的鸿沟极大:律所无法为一个机器人安全组件编写你的 Annex IV 技术文档,无法为一支 AGV 车队设计你的人在回路控制,也无法为一个车辆项目搭建你的上市后监测架构。那属于工程与项目管理,而这正是本次合作所交付的。
并非自动如此,但比软件团队预期的要更频繁。分级取决于用例。一个为机器人路径规划识别物体的计算机视觉模型,很可能是 Annex III 第 2 点下机械的安全组件。ADAS 系统在 Annex III 第 4 点下属于高风险。一个为安全关键设备的维护决策提供输入的预测性维护模型,可能是 Annex III 第 2 点下的安全组件。我不会把网络安全标准(UNECE R155/R156,规范车辆型式批准的网络安全)与功能安全标准(ISO 26262/IEC 61508,规范安全关键功能的安全完整性等级)混为一谈——它们适用于不同的失效领域,各自的 Annex IV 文档也不相同。
分阶段的执行时间表已立法确定。禁止性规定自 2025 年 2 月起即可执行,通用 AI 规则自 2025 年 8 月起施行,而高风险义务将于 2026 年 8 月落地。对需要公告机构审核的物理 AI 系统而言,现在就着手准备合格评定文档并非可选项——公告机构的对接、澄清周期与整改工作合计耗时数月,而任何为 2026 年 8 月期限却在 2026 年第一季度才启动文档工作的项目,都已落后于进度。
这些标准是互补的,而非相互竞争。ISO 26262 规范汽车功能安全——ASIL 分级、安全论证、验证与确认证据。IEC 61508 规范工业系统的功能安全——SIL 分级。IEC 62443 规范 OT 网络安全。物理 AI 系统的 EU AI Act Annex IV 技术文档会借鉴并引用为这些标准产出的证据——危害分析、FMEA、安全论证——但增加了 AI 特有的要求:训练数据治理、模型性能指标、已知局限以及人工监督设计。让这些项目并行而非顺序推进,是在不重复制作证据的前提下满足 2026 年期限的唯一办法。
30 分钟。我会诊断你的处境,坦诚告诉你这项服务是否合适——如果不合适,什么才合适。