人工智能安全标准白皮书(2023年版)

《人工智能安全标准化白皮书（2023版）》由电子技术标准化研究院等20家单位共同编写，梳理了人工智能技术与应用发展现状，分析了人工智能面临的新的安全风险，结合国内外人工智能安全政策与标准现状，指出了人工智能安全标准需求，提出了下一步开展人工智能安全标准化工作的建议，为规范引导人工智能安全标准化工作提供参考。

（一）人工智能安全属性定义和度量指标

随着人工智能安全工作开展，安全属性定义逐步形成一些共识，国 际标准以及相关技术文件也给出了部分安全属性的定义描述，但不同文件 之间仍有差异。可靠性、可解释性、公平性等重要安全属性定义的标准统 一，以及其度量指标的规范化，将对人工智能的发展有着重要促进意义。

（二）用户输入数据安全保护相关规范

在人工智能通常收集用户输入数据用于训练的背景下，如何保障用户 输入数据的安全亟需技术标准。根据操作场景的不同，用户输入的数据可 能包含人脸、身份证号、家庭住址等个人信息，可能包括个人健康情况、 情感状况等个人隐私，可能包括企业技术和经营活动有关的商业秘密，甚 至可能包括秘密等。

（三）人工智能服务网络安全防护相关指南

围绕人工智能服务过程中，可能会面临的对抗样本攻击、爬山攻击、 模型窃取、供应链攻击等新型攻击威胁，需要研究在数据集防护、算法模 型保护、抗逆向攻击等方面的安全技术措施指南，帮助人工智能服务提供 者保护业务数据以及人工智能模型参数等的机密性和完整性。