AI应用系统标准体系总结
author： 周均扬
date： 2026.07.08
下面按 标准定位、核心对象、关键方法、交付物、与AI系统关系 做对比。重点面向 AI视觉安全、AGV/Robot协同安全、设备预测性安全 场景。
1. 六类标准的总体定位
这六个标准可以分成三组：
| 类别 | 标准 | 解决的问题 |
|---|---|---|
| 功能安全 | IEC 61508、ISO 13849、IEC 62061 | 安全功能如何设计、验证、达到足够的风险降低能力 |
| 工业网络安全 / 信息安全 | IEC 62443、ISO/IEC 27001 | 工业控制系统、信息资产、网络连接、远程运维如何防攻击、防篡改、防失控 |
| AI治理 | ISO/IEC 42001 | AI系统如何建立治理、风险管理、生命周期、责任和持续改进机制 |
IEC 61508 / ISO 13849 / IEC 62061 解决“安全动作是否可信”，IEC 62443 / ISO/IEC 27001 解决“系统和数据是否可信”，ISO/IEC 42001 解决“AI开发、使用、变更和治理是否受控”。
2. 标准要点逐项梳理
2.1 IEC 61508：功能安全基础标准
IEC 61508 是电气/电子/可编程电子安全相关系统，也就是 E/E/PE safety-related systems 的通用功能安全基础标准。它关注当 E/E/PE 系统用于执行安全功能时，应如何进行安全生命周期、风险降低、硬件随机失效控制、软件系统性失效控制、验证确认和安全完整性等级管理。IEC官方说明中明确其适用于 E/E/PE 系统执行安全功能的场景，并作为行业应用标准发展的基础。(IEC Webstore)
核心要点：
| 项目 | 内容 |
|---|---|
| 核心对象 | E/E/PE安全相关系统 |
| 核心概念 | Safety Function、SIL、Safety Lifecycle、Systematic Capability、PFH/PFD |
| 安全等级 | SIL 1–SIL 4，SIL 4风险降低能力最高 |
| 生命周期 | 概念、风险分析、需求、设计、实现、验证、确认、运行维护、修改、退役 |
| 适用范围 | 通用功能安全基础标准，可被机械、过程工业、铁路、汽车等行业标准引用或继承 |
| 对AI安全意义 | AI不能天然获得SIL信用；若AI参与安全功能，必须纳入安全生命周期和系统性失效控制 |
IEC资料也强调 IEC 61508 的安全生命周期思想，包括概念、规格、设计、安装调试、运行维护、验证、修改等阶段。(IEC)
2.2 ISO 13849：机械安全相关控制系统
ISO 13849 面向机械安全相关控制系统部件，即 SRP/CS, Safety-Related Parts of Control Systems。ISO 13849-1:2023 规定了安全相关控制系统部件设计和集成的方法、要求、建议与指导。(ISO)
ISO 13849-2:2012 进一步规定了通过分析和测试对安全功能、类别和Performance Level进行验证的程序和条件。(ISO)
核心要点：
| 项目 | 内容 |
|---|---|
| 核心对象 | 机械安全相关控制系统部件 SRP/CS |
| 核心概念 | PL、Category、MTTFd、DCavg、CCF、PFHd |
| 安全等级 | PL a、b、c、d、e |
| 典型对象 | 安全门锁、光幕、安全继电器、安全PLC、机器人保护停止、AGV安全接口 |
| 方法特点 | 更适合机械设备、机电气液混合系统、安全控制回路 |
| 对AI安全意义 | AI视觉可作为风险感知输入，但最终安全功能应通过SRP/CS实现并验证PL |
ISO 13849通常会用于论证安全门锁、安全PLC、安全I/O、机器人安全接口等控制链路是否达到所需 PL。
2.3 IEC 62061：机械安全相关控制系统的功能安全
IEC 62061:2021 面向机械安全相关控制系统 SCS, Safety-related Control Systems 的设计、集成和确认。IEC官方说明指出，它适用于单独或组合用于执行机械安全功能的控制系统，也适用于协同工作的机器组，并且是 IEC 61508 框架下的机械行业特定标准。(IEC Webstore)
IEC 62061 已有 2024 年修订补充版，IEC 62061:2021+AMD1:2024 CSV 继续聚焦机械安全相关控制系统的设计、集成和验证。(IEC Webstore)
核心要点：
| 项目 | 内容 |
|---|---|
| 核心对象 | 机械安全相关控制系统 SCS |
| 核心概念 | Safety Function、SIL、SILCL、PFHd、SFF、子系统架构、诊断覆盖 |
| 安全等级 | 通常面向机械安全功能的 SIL 1–SIL 3 应用 |
| 方法特点 | 比ISO 13849更偏E/E/PE功能安全计算、子系统分解和安全完整性论证 |
| 典型对象 | 安全PLC系统、机器人安全控制、复杂机械联动控制、多设备协同安全控制 |
| 对AI安全意义 | 适合对复杂AGV/Robot/产线联动的安全控制系统做SIL化论证 |
IEC 62061更适合用于“多设备、多控制器、多通信链路”的安全功能，例如：AGV进入机器人交互区时，系统根据AGV状态、机器人状态、人员位置共同触发减速、暂停或保护停止。
2.4 IEC 62443：工业自动化与控制系统网络安全
IEC 62443 是工业自动化与控制系统 IACS, Industrial Automation and Control Systems 的网络安全标准族。ISA官方说明指出，ISA/IEC 62443 定义了实施和维护工业自动化与控制系统电子安全的要求和过程，并强调OT与IT、过程安全与网络安全之间的整体协同。(isa.org)
核心要点：
| 项目 | 内容 |
|---|---|
| 核心对象 | IACS、OT网络、工业控制系统、工业设备、控制器、工程站、边缘网关 |
| 核心概念 | Zones & Conduits、Security Level、Foundational Requirements、Asset Owner、Product Supplier、Service Provider |
| 关注重点 | 分区分域、访问控制、身份认证、远程访问、恶意代码防护、系统完整性、日志审计 |
| 方法特点 | 以工业控制系统生命周期和角色责任为中心 |
| 典型对象 | PLC、SCADA、MES接口、机器人控制器、AGV调度系统、边缘AI服务器 |
| 对AI安全意义 | 防止模型、数据、配置、控制接口、远程运维被攻击或篡改 |
IEC 62443 对AI安全系统非常关键。因为AI视觉服务器、模型文件、PLC接口、Robot/AGV控制接口、事件总线、远程升级通道，一旦被攻击，可能直接影响安全动作或导致安全失效。
2.5 ISO/IEC 27001：信息安全管理体系
ISO/IEC 27001:2022 是信息安全管理体系 ISMS, Information Security Management System 标准。ISO官方说明中明确，它规定了ISMS应满足的要求，并为组织建立、实施、维护和持续改进信息安全管理体系提供框架。(ISO)
核心要点：
| 项目 | 内容 |
|---|---|
| 核心对象 | 组织级信息安全管理体系 |
| 核心概念 | ISMS、信息资产、风险评估、风险处置、控制措施、持续改进 |
| 保护目标 | 保密性、完整性、可用性，即 CIA |
| 方法特点 | 管理体系标准，适用于组织、流程、制度、审计 |
| 典型对象 | 数据、模型、日志、账号、服务器、源代码、客户资料、供应商访问 |
| 对AI安全意义 | 保障AI系统数据、模型、日志、权限、远程运维和审计体系受控 |
ISO/IEC 27001不直接告诉你安全PLC怎么设计，也不直接评价AI模型是否安全，但它可以保障AI安全系统中的信息资产可信、权限可信、审计可信、变更可信。
2.6 ISO/IEC 42001：AI管理体系
ISO/IEC 42001:2023 是AI管理体系 AIMS, Artificial Intelligence Management System 标准。ISO官方说明显示，它规定了组织建立、实施、维护和持续改进AI管理体系的要求，适用于提供或使用AI产品和服务的组织，强调负责任地开发和使用AI系统。(ISO)
核心要点：
| 项目 | 内容 |
|---|---|
| 核心对象 | 组织级AI管理体系 |
| 核心概念 | AIMS、AI风险、AI目标、AI生命周期、责任分配、持续改进 |
| 关注重点 | AI治理、风险管理、透明性、监督、数据、模型、供应商、影响评估 |
| 方法特点 | 管理体系标准，适用于AI组织治理和AI应用合规 |
| 典型对象 | AI模型开发、AI产品发布、AI系统使用、AI供应商管理、AI变更审批 |
| 对AI安全意义 | 管理AI系统全生命周期，避免模型失控、数据失控、责任不清和变更无审批 |
ISO/IEC 42001 更适合作为“AI治理总框架”，覆盖AI使用分级、ODD定义、数据冻结、模型版本、再训练审批、人工监督和持续改进。
3. 六个标准对比表
| 维度 | IEC 61508 | ISO 13849 | IEC 62061 | IEC 62443 | ISO/IEC 27001 | ISO/IEC 42001 |
|---|---|---|---|---|---|---|
| 标准类型 | 通用功能安全基础标准 | 机械安全控制系统标准 | 机械功能安全控制系统标准 | 工业网络安全标准族 | 信息安全管理体系 | AI管理体系 |
| 核心对象 | E/E/PE安全相关系统 | 机械SRP/CS | 机械SCS | 工业自动化与控制系统IACS | 组织信息资产与ISMS | 组织AI系统与AIMS |
| 主要目标 | 防止安全相关系统失效导致危险 | 保证机械安全控制部件达到所需PL | 保证机械安全控制系统达到所需SIL/安全完整性 | 防止工业控制系统被攻击、篡改、破坏 | 保护信息资产的保密性、完整性、可用性 | 负责任地开发、提供和使用AI |
| 安全/保障等级 | SIL 1–4 | PL a–e | SIL / SILCL | Security Level | 无固定安全等级，基于风险处置 | 无固定技术等级，基于AI风险管理 |
| 生命周期 | 安全生命周期 | 设计、集成、验证 | 设计、集成、确认 | IACS安全生命周期 | ISMS持续改进生命周期 | AIMS持续改进生命周期 |
| 典型方法 | HARA、SIL分配、PFH/PFD、V&V、系统性能力 | Category、MTTFd、DCavg、CCF、PFHd、PL验证 | 子系统分解、PFHd、SFF、诊断、SILCL | 分区分域、通道、访问控制、安全等级、纵深防御 | 风险评估、控制措施、审计、纠正改进 | AI风险、影响评估、治理、监督、数据/模型生命周期 |
| 技术关注点 | 安全功能可靠执行 | 机械安全回路能力 | 复杂机械控制系统功能安全 | OT网络和控制系统安全 | 信息资产和管理制度 | AI治理和风险管理 |
| 管理关注点 | 安全计划、安全确认、变更控制 | 安全功能验证、技术文件 | 安全生命周期、集成验证 | 资产所有者、集成商、供应商责任 | 组织级信息安全治理 | 组织级AI治理 |
| 与AI关系 | AI进入安全功能时需满足功能安全生命周期和证据链 | AI视觉结果可作为输入，但安全动作应由SRP/CS完成 | AI可参与复杂联动感知，但安全控制需SCS验证 | 防止AI服务器、模型、接口、工业网络被攻击 | 管控AI数据、日志、权限、模型文件、供应链 | 管控AI应用分级、数据、模型、变更、责任和监督 |
| Pack产线适用点 | 高压测试安全、急停链路、安全PLC总体安全论证 | 机器人保护停止、安全门锁、光幕、安全I/O、AGV安全接口 | AGV+Robot+PLC多设备协同安全 | AI边缘服务器、PLC网络、SCADA、AGV调度、远程运维 | 数据集、日志、账号、模型仓库、客户数据 | AI视觉模型、ODD、再训练审批、AI使用分级 |
| 输出物 | Safety Plan、SRS、SIL分析、V&V报告、安全案例 | PL计算、SRP/CS设计、验证报告 | SCS架构、SILCL/PFH计算、确认报告 | 网络分区图、安全需求、访问控制、审计记录 | ISMS方针、风险评估、控制清单、审计报告 | AIMS方针、AI风险评估、AI影响评估、AI治理记录 |
4. 面向AI安全系统的组合使用建议
4.1 如果做“AI视觉安全”
| 层级 | 推荐标准 | 作用 |
|---|---|---|
| AI模型开发 | ISO/IEC 42001 | 管控数据、模型、风险、透明性、人工监督 |
| 安全功能链路 | ISO 13849 或 IEC 62061 | 论证安全PLC、机器人停止、AGV暂停是否足够可靠 |
| 工业网络 | IEC 62443 | 防止AI服务器、PLC接口、摄像头网络被攻击 |
| 信息管理 | ISO/IEC 27001 | 管控数据集、日志、模型文件、权限和审计 |
4.2 如果做“AGV/Robot协同安全”
| 层级 | 推荐标准 | 作用 |
|---|---|---|
| 机器人/AGV安全动作 | ISO 13849 / IEC 62061 | 定义减速、暂停、保护停止、复位安全功能 |
| 多设备联动控制 | IEC 62061 | 更适合复杂控制系统和协同机器组 |
| AI融合感知 | ISO/IEC 42001 + B11.TR10/ISO/IEC TR 5469思路 | 管控AI风险、ODD、低置信度、OOD、再训练 |
| 工业通信 | IEC 62443 | 管控AGV调度、Robot Controller、PLC、边缘AI网络 |
4.3 如果做“设备预测性安全”
| 层级 | 推荐标准 | 作用 |
|---|---|---|
| 预测模型 | ISO/IEC 42001 | 管控模型生命周期、再训练、风险和人工监督 |
| 保护动作 | IEC 61508 / IEC 62061 | 若预测结果触发停机、断能、保护动作，则需功能安全论证 |
| 设备数据安全 | ISO/IEC 27001 | 管控设备数据、维护记录、模型输入 |
| OT系统安全 | IEC 62443 | 防止预测维护平台成为攻击入口 |
5. 关键差异总结
| 对比点 | 功能安全标准 | 网络/信息安全标准 | AI治理标准 |
|---|---|---|---|
| 代表标准 | IEC 61508、ISO 13849、IEC 62061 | IEC 62443、ISO/IEC 27001 | ISO/IEC 42001 |
| 核心问题 | 系统失效时是否会造成伤害 | 系统是否会被攻击、篡改、泄露或破坏 | AI是否被负责任地开发和使用 |
| 关注对象 | 安全功能、安全控制链路、安全完整性 | 网络、账号、权限、资产、数据、系统 | 数据、模型、算法、影响、责任、监督 |
| 典型失效 | 传感器失效、PLC失效、执行器失效、软件系统性错误 | 非授权访问、恶意代码、远程攻击、日志篡改 | 模型偏差、漂移、不可解释、未经审批再训练 |
| 工程输出 | SRS、PL/SIL计算、V&V、安全案例 | 网络安全方案、访问控制、审计、风险处置 | AI风险评估、AI影响评估、模型治理、变更记录 |
| 对AI安全系统的定位 | 约束“安全动作” | 保护“系统环境” | 管理“AI生命周期” |
一句话总结：
IEC 61508 是功能安全总框架，ISO 13849 和 IEC 62061 是机械安全控制落地标准，IEC 62443 是工业网络安全底座，ISO/IEC 27001 是组织级信息安全底座，ISO/IEC 42001 是AI治理底座。 对工业AI系统而言，六者应组合使用，而不是相互替代。