| 摩登7机器人 |
| CHUANGZE ROBOT |
核心框架：四位一体的安全治理体系
白皮书创造性地提出了AI安全治理的总体架构，将复杂的治理体系拆解为四个相互支撑、紧密联动的维度：
1. 基础设施安全：筑牢数字底座
AI基础设施是模型训练与推理的"数字土壤"，其安全直接决定上层应用的可靠性。当前面临的核心挑战包括：
智算硬件设备安全方面，服务器、智算卡等关键设备面临物理攻击、硬件接口攻击、固件漏洞利用等多重威胁。攻击者可能通过探针读取总线数据，或利用调试端口篡改系统固件。
智算云平台安全承载着海量敏感数据，云底座的存储服务成为数据泄露的主要目标。未经安全管理的API接口、存在已知漏洞的云操作系统、包含恶意代码的容器镜像，都为攻击者提供了可乘之机。
智算MaaS平台安全风险尤为突出。模型即服务（Model as a Service）降低了AI开发门槛，但也带来了模型知识产权被盗取、API接口遭受流量攻击导致服务中断、GPU资源被恶意占用导致成本激增等新型风险。
智算算力网络安全作为新兴基础设施，其"算力泛在、灵活接入"的特性反而成为安全隐患。算力信息的正确性与完整性直接影响全网调度，一旦节点被攻击或仿冒，将严重影响算网可靠性。
2. 数据安全：守护AI的"血液系统"
数据是人工智能发展的核心驱动力，其安全风险贯穿AI全生命周期：
训练数据安多面临数据来源合规性、内容安全性、数据投毒攻击等多重挑战。攻击者可能在数据预处理阶段注入恶意样本，使模型在特定场景下产生错误输出或植入后门。低质量数据更会直接削弱模型鲁棒性。
微调数据安全风险常被忽视。由于微调常基于私有数据进行，若存储传输环节存在漏洞，攻击者可通过逆向工程从模型输出中反推敏感训练数据，造成隐私泄露。
推理数据安全关乎高价值模型与关键行业数据的保护。攻击者可能利用服务器访问权限绕过加密保护，直接从内存导出模型，或在API关键点插入恶意代码窃取用户隐私推理数据。
知识库数据安全在RAG（检索增强生成）架构中至关重要。外部攻击者可能利用SQL注入等手段非法获取数据库敏感信息，内部授权用户也可能因误操作或社会工程学攻击导致数据泄露。
3. 模型算法安全：攻克"黑盒"难题
AI模型算法是系统的"大脑"，其安全风险复杂且隐蔽：
模型训练阶段面临数据隐私泄露、版权侵犯、数据偏见导致的公平性问题，以及对抗攻击威胁——攻击者通过精心设计的输入误导模型输出错误结果。
模型微调阶段的风险更加微妙。研究表明微调后的模型更容易遭受"越狱攻击"，即通过特殊指令使模型偏离安全限制。不当的微调策略还可能导致模型性能下降，增加幻觉现象发生率。
模型推理阶段的对抗攻击同样危险。攻击者输入经过轻微扰动的数据样本，即可诱使模型做出错误决策。训练环境与实际应用场景的差异还可能导致"数据漂移"现象。
模型部署阶段需防范模型窃取、传输泄露、维护更新引入新漏洞等风险。模型的可解释性和透明度在金融、医疗等高风险领域尤为重要。
针对通用AI模型，白皮书特别指出六大典型风险：鲁棒性弱、泛化性差、可解释性差、偏见与歧视、逆向工程风险、对抗攻击风险。对于生成式AI，则需重点关注提示词攻击（如角色扮演攻击、目标劫持攻击）、大模型接口攻击，以及生成内容合规风险——包括侵犯他人合法权益、违反核心价值观、模型幻觉、思维链安全推理风险等。
4. 应用安全：跨越"Z后一公里"
AI应用是技术与场景的结合点，安全风险呈现多样化特征：
AI模型算法滥用风险包括虚假有害信息传播、多模态深度伪造、模型透明性不足导致的用户过度信任等问题。在情感支持、心理咨询等敏感领域，用户可能在情感和心理上过度依赖AI，引发伦理道德问题。
AI应用开发安全风险中，端侧AI受限于低功耗、小内存，模型压缩优化可能牺牲安全性；智能体的自主决策能力使其行为可能因环境反馈或对抗攻击偏离原始目标；具身智能的物理行动能力更可能直接引发人身伤害或财产损失；智能物联网（AIoT）则融合了AI算法脆弱性与IoT物理暴露性，风险叠加放大。
AI垂直行业应用风险各具特点：医疗领域存在手术机器人操作失误、医学图像误判、患者隐私泄露等风险；新闻领域面临虚假信息传播、舆论操纵威胁；金融领域需防范多模态深度伪造技术实施的盗刷、恶意注册等欺诈行为；编程领域则要警惕AI生成代码中的XSS、SQL注入等安全漏洞。
白皮书Z后提出了AI安全治理的发展建议，呼吁从法律法规完善、标准体系建设、前沿技术探索、人才培养与产学研协同创新等多个维度共同发力，推动我国人工智能技术健康、安全、可持续发展。
在AI技术日新月异的时代，安全治理不是创新的绊脚石，而是可持续发展的压舱石。W有构建政府监管、企业履责、行业自律、社会协同的多元共治格局，才能让AI技术真正造福人类社会，实现"智能向善"的美好愿景。
这份白皮书的价值，不仅在于其系统性的理论框架和丰富的实践案例，更在于它展现了ZGAI产业界对安全治理的深刻思考和主动担当。在AI竞争进入白热化阶段的今天，安全治理能力将成为衡量AI发展水平的重要标尺，而这份白皮书正是ZG参与AI治理、贡献ZG智慧的重要成果。
 |
| 智能服务机器人 |
