AI 安全系统标准体系与开发规范

本页面用于工程规划、需求分解和合规映射，不替代正式标准文本、第三方认证意见或现场风险评估。

1. 标准体系总览

flowchart TB
    A["AI 安全系统标准体系"] --> B["机械与功能安全"]
    A --> C["AI 治理与风险"]
    A --> D["网络与信息安全"]
    A --> E["工业通信与互操作"]
    A --> F["工程生命周期与 V&V"]

    B --> B1["IEC 61508<br/>通用功能安全"]
    B --> B2["ISO 13849-1<br/>机械安全相关控制系统"]
    B --> B3["IEC 62061<br/>机械安全控制系统功能安全"]
    B --> B4["ISO 12100<br/>机械风险评估与风险降低"]

    C --> C1["ISO/IEC 42001<br/>AI 管理体系"]
    C --> C2["ISO/IEC 23894<br/>AI 风险管理"]
    C --> C3["ISO/IEC 22989<br/>AI 术语与概念"]

    D --> D1["IEC 62443<br/>IACS 网络安全"]
    D --> D2["ISO/IEC 27001<br/>信息安全管理体系"]

    E --> E1["IEC 61784<br/>工业通信网络 Profiles"]
    E --> E2["IEC 61158<br/>现场总线规范"]
    E --> E3["GB/T 36006-2018<br/>工业通信相关要求"]

    F --> F1["SRS / Architecture"]
    F --> F2["Data & Model Assurance"]
    F --> F3["Verification & Validation"]
    F --> F4["Operation Monitoring"]
    F --> F5["Change Management"]

2. 核心标准定位

标准 工程定位 对 AI 安全系统的主要作用
IEC 61508 系列 E/E/PE 安全相关系统的通用功能安全框架 安全生命周期、SIL、系统性能力、硬件与软件安全要求
ISO 13849-1:2023 机械安全相关控制系统 SRP/CS 的设计与集成 Performance Level、类别、可靠性与诊断能力
IEC 62061:2021 及修订 机械安全相关控制系统的设计、集成与验证 机械领域 SIL、安全功能分解和验证
ISO 12100 机械风险评估与风险降低 危险识别、风险估计、三步法风险降低
IEC 62443 系列 工业自动化与控制系统网络安全 分区分域、安全等级、组件/系统/流程安全
ISO/IEC 27001:2022 及修订 信息安全管理体系 组织级信息安全治理、风险与控制
ISO/IEC 42001:2023 AI 管理体系 AI 责任、治理、风险、生命周期与持续改进
ISO/IEC 23894:2023 AI 风险管理指南 AI 风险识别、分析、处置和监控
IEC 61784 系列 工业通信网络 Profiles 实时以太网、现场总线、安全通信和安装 Profiles
IEC 61158 系列 现场总线规范 工业通信协议和服务基础

截至 2026-07-11，ISO 13849-1 的现行版本为 2023 版；IEC 62061 已发布 2021 版及后续修订；IEC 62443 和 ISO/IEC 27001 需按具体分册及修订状态逐项校核。

3. AI 功能分级建议

等级 AI 的作用 控制权限 典型应用
L0 离线分析 无实时控制 报告、趋势、复盘
L1 在线提示 告警与建议 PPE、越界提示
L2 AI + 确定性规则 受限的非安全关键动作 AGV 限速建议
L3 AI 参与安全相关决策 独立监督、架构分解、严格 V&V 暂停请求、区域保护
L4 自适应或直接高等级动作 极高保证要求，不应默认采用 需专项安全论证

4. 安全生命周期

flowchart LR
    A["概念与系统边界"] --> B["HARA / HAZOP / FMEA<br/>风险评估"]
    B --> C["Safety Plan"]
    C --> D["SRS 与安全需求分配"]
    D --> E["系统/软件/AI 架构"]
    E --> F["数据与模型开发"]
    E --> G["规则与控制开发"]
    F --> H["单元·集成·场景 V&V"]
    G --> H
    H --> I["现场试运行与验收"]
    I --> J["运行监控与事件管理"]
    J --> K["变更影响分析"]
    K --> D

5. SRS 必备字段

每条安全相关需求建议包含：

Requirement ID
Title
Description
Rationale
Source / Standard Mapping
Hazard / Risk Link
Safety Function
Operating Design Domain
Preconditions
Inputs / Outputs
Timing Constraint
Failure Response
Safe / Degraded State
Verification Method
Acceptance Criteria
Traceability
Owner
Version / Status

推荐编号：

SYS-FUN-001
SCN-AGV-001
SCN-ROB-001
SCN-HV-001
PER-001
SAFE-001
IF-LT-001
IF-PLC-001
IF-AGV-001
IF-ROB-001
LOG-001
SEC-001
AI-DATA-001
AI-MODEL-001
VV-001

6. AI 数据与模型保证

数据要求

模型要求

7. 运行时安全监督

Safety Supervisor 应独立于普通业务逻辑，至少检查：

8. V&V 测试体系

测试层级 重点内容
单元测试 数据模型、几何计算、规则条件、状态机、接口序列化
模型测试 数据集性能、长尾、遮挡、漂移、扰动、硬件差异
集成测试 LT/AGV/Robot/PLC 时间与坐标融合、消息丢失和重连
场景测试 人车冲突、人机侵入、高压区误入、恢复流程
故障注入 传感器丢帧、时钟漂移、网络延迟、设备状态异常
性能测试 P50/P95/P99 延迟、吞吐、CPU/GPU/内存
长稳测试 7×24 小时运行、资源泄漏、队列积压、日志容量
网络安全测试 身份、权限、签名、升级、分区分域、攻击面
现场验收 验收场景、阈值、证据、控制反馈和操作流程

9. 网络安全基线

依据 IEC 62443 思路，建议：

  1. 对 Safety OS、边缘传感器、AGV/Robot、PLC、管理平台进行资产识别。
  2. 划分 Zone 与 Conduit，生产控制域和企业 IT 域隔离。
  3. 实施设备身份、双向认证、最小权限和密钥管理。
  4. 对模型、规则、配置和升级包进行签名与完整性校验。
  5. 对控制接口建立白名单、速率限制、审计和异常阻断。
  6. 建立漏洞、补丁、供应链和远程维护流程。
  7. 将网络安全事件与安全事件统一关联追踪。

10. 工业通信要求

工业安全相关通信需关注：

IEC 61784-3 系列用于功能安全现场总线 Profiles，其机制与 IEC 61508 的功能安全要求相关联。具体项目应依据所选 PROFINET/PROFIsafe、EtherCAT/FSoE、CIP Safety 等协议族确定适用分册。

11. 合规交付物

Safety Plan
Hazard and Risk Analysis
System Boundary and ODD
Safety Requirements Specification
Interface Control Document
Architecture and Safety Mechanisms
AI Data Specification
Model Card / Assurance Case
Cybersecurity Plan
V&V Plan and Test Cases
Traceability Matrix
Anomaly and Incident Log
Configuration and Change Records
Safety Case / Technical File
Operation and Maintenance Manual

12. 标准使用原则

13. 相关内容