$深信服(SZ300454)$ AI安全与AI投毒
深信服在应对 AI 投毒攻击领域已形成多层次的技术布局，其解决方案覆盖数据采集、模型训练、部署应用的全生命周期，结合 AI 驱动的检测能力与动态防御机制，构建了立体化的防护体系。以下是其核心进展：
一、AI 驱动的威胁检测与响应
智能检测引擎的深度应用深信服自主研发的 SAVE（Sangfor AI-based Vanguard Engine）引擎采用无特征检测技术，通过深度学习分析文件基因特征与行为模式，可识别 97.8% 的未知病毒及变种威胁。在应对数据投毒时，该引擎能够检测训练数据中的异常模式（如高频出现的特定标签或隐藏触发器），结合动态沙盒技术模拟攻击场景，验证数据的真实性。例如，在某金融客户案例中，SAVE 引擎通过分析样本的熵值与代码混淆程度，成功拦截了植入后门的恶意训练数据，误报率仅 0.02%。
多模态攻击行为分析深信服 XDR（可扩展检测响应平台）结合安全 GPT 大模型，实现对攻击链的全流程溯源。其 AI 智能体能够解析网络流量、终端日志和威胁情报，识别投毒攻击的关键特征（如异常的模型参数更新、特定触发器的高频出现）。例如，在 2025 年攻防演练中，XDR 平台通过分析模型输出层的参数波动，成功检测出攻击者植入的标签翻转攻击，将恶意样本的识别时间从小时级缩短至分钟级。
二、数据全流程安全管控
供应链攻击防御与溯源针对数据投毒的常见入口 —— 供应链攻击，深信服构建了 “威胁情报 - 检测 - 响应” 闭环。例如，在 2023 年发现的 LNMP/OneinStack 供应链投毒事件中，深信服通过威胁情报共享网络，在攻击发生后 5 分钟内同步防御规则至全网设备，拦截了 22 万次恶意文件下载。其数据安全大脑（DSC）通过 STP 搜索引擎实现泄密事件一键溯源，可定位到投毒数据的源头节点，支持攻击路径可视化还原。
动态数据清洗与合规治理深信服数据安全大模型（如安全 GPT4.0）支持训练数据的自动化清洗与敏感信息过滤。例如，在医疗行业场景中，该模型可识别并匿名化包含患者隐私的训练数据，同时检测是否存在错误标注（如将 “肺癌” 标记为 “肺炎”）。通过多阶段数据校验（如 K-L 散度分析、异常值检测），可过滤掉 0.01% 的毒化样本，使模型有害输出率降低 11.2%。
三、模型鲁棒性增强技术
对抗训练与动态权重调整深信服在模型训练阶段引入对抗样本生成技术，通过模拟投毒攻击（如后门植入、标签污染）提升模型的鲁棒性。例如，在自动驾驶场景中，其 AI 模型通过对抗训练，对添加微小噪声的交通标志图像的识别准确率仍保持在 98% 以上，较传统模型提升 15%。同时，采用动态权重调整策略，对可疑的模型更新降低其聚合权重，避免恶意模型对全局模型的污染。
联邦学习中的攻击检测针对联邦学习场景，深信服提出基于模型结构与输出差异分析的防御方案。例如，通过计算模型输出层参数更新的 “归一化能量”（NEUPs），识别训练数据的同质性，结合聚类算法区分中毒模型与良性模型。在 NLP 和物联网 NIDS 任务中，该方案可将后门攻击的检测率提升至 95% 以上，同时避免良性模型被误删。
四、行业定制化解决方案
医疗与金融等高敏感领域在医疗影像识别场景中，深信服通过知识图谱验证模型输出的合理性。例如，构建包含 21706 个医学概念的知识图谱，交叉验证 AI 诊断结果，可捕捉 90% 以上的中毒虚假信息（如将 “结节” 误判为 “钙化”）。在金融风控领域，其多源数据溯源技术结合区块链，确保训练数据的真实性，防止恶意篡改导致的信用评估偏差。
边缘计算与物联网场景针对边缘设备算力有限的特点，深信服推出轻量化检测方案。例如，在工业物联网中，通过终端 AI 引擎（如 aES 的静态文件 AI）实时检测边缘节点接收的训练数据，发现异常立即触发隔离机制。某制造企业部署后，成功拦截了针对 PLC 控制器的固件投毒攻击，将攻击响应时间压缩至秒级。
五、前沿技术探索与生态协同
生成式对抗网络（GAN）检测深信服研究院正在研究基于隐空间分析的 GAN 投毒检测技术。通过比较生成样本与真实数据在潜在空间的分布差异，结合元学习校准模型可信度，可将合成毒数据的检测率提升至 95% 以上。
行业标准制定与开源贡献深信服积极参与 AI 安全标准制定，如 NIST AI 风险测试指南的编写，并将部分防御技术开源。例如，其开源工具集（如数据签名验证模块）已被纳入安全 AI 联盟（CoSAI）的共享框架，帮助企业快速构建投毒防御能力。
总结
深信服通过 “检测 - 防御 - 溯源 - 进化” 的闭环体系，实现了对 AI 投毒攻击的全链条防护。其技术方案融合了 AI 驱动的智能检测、动态数据治理、模型鲁棒性增强等多重手段，并在医疗、金融、自动驾驶等关键领域落地验证。正如深信服安全大模型专家马骥所言：“应对 AI 投毒需构建‘人 + AI’的协同防御体系，技术是基础，而人类的判断力是最后一道防线”。未来，深信服将继续深化与行业生态的合作，推动 AI 安全技术的持续创新。