北京
中国教育报-中国教育新闻网讯（通讯员 张蕾 记者 冯丽）近日，西安电子科技大学网信院马卓教授团队最新研究成果被第45届国际信息安全顶会IEEE Symposium on Security and Privacy（IEEE S&P 2024）全文收录。第一作者为马卓教授，通信作者为杨易龙博士生和刘洋副教授，合作作者包括北京大学杨仝长聘副教授、西安电子科技大学李腾副教授以及浙江大学秦湛研究员。
该文章聚焦于深度神经网络后门识别和移除方案的高效性提升，主要贡献如下：现代深度神经网络模型（DNNs）需要大量数据才能达到最佳性能，人们已经依赖从多种开源途径获取大量训练数据集。这种不可信方式可能会导致训练时发生后门攻击，即攻击者在训练数据集中注入一小部分有毒训练样本，将后门植入模型，导致在运行时触发有毒样本的错误分类。为了减轻这种攻击，研究者提出了许多防御方法，如检测并移除有毒样本或纠正受害DNN模型的权重。然而，在面对大规模训练数据集时，这些方法效率显著低下，导致现实世界中实用性不高。该研究提出了一种轻量级的后门识别和移除方案，名为ReBack。具体来讲，ReBack首先提取出可疑和良性的样本子集，然后使用基于“平均和差分”的方法来快速识别后门目标标签。接着，ReBack提出了一种新的反向工程方法，仅使用基本算子就能恢复出准确的触发器。实验表明，对于拥有750个标签的ImageNet数据集，ReBack可以在大约2小时内防御后门攻击，显示出比现有方法快18.5倍至214倍的效率提升。在移除后门的过程中，由于恢复的触发器与真实触发器的余弦相似度达到99%，后门攻击成功率可以降低到0.05%。
据悉，IEEE S&P又称Oakland，与ACM CCS、USENIX Security、NDSS并列称为安全领域的四大国际顶级学术会议，其近10年的平均录用率约为13%，发表难度在四大顶会里最高，被中国计算机学会（CCF）认定为A类会议。该会议收录的论文代表着相关研究领域的最高水平，在业界具有广泛而深远的影响。
作者：张蕾 冯丽
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
