| 评审组： | 计算机与系统科学组 | | 项目名称： | 对抗机器学习场景中的数据主动防护与安全增强关键技术 |
| 提名单位： | 陕西省教育厅 |
| 提名等级： | 二等奖 |
| 提名单位意见： | 我单位认真审阅了该项目提名书及附件材料，确认全部材料真实有效，并按照要求对该项目的基本情况进行了公示，公示期间无异议。
本项目针对对抗机器学习场景下的安全威胁，围绕敏感数据主动防护与模型内生安全增强两个方面，开展了覆盖数据预处理-模型训练-模型部署全过程的深入研究。在敏感数据主动防护方面，系统性地提出了基于主动遗忘和密态数据的敏感关键信息主动保护方法，提升了机器学习过程中数据密态训练、数据删除与安全存储能力，完善了面向数据端的主动隐私防护体系。在模型内生安全增强方面，提出基于异常激活抑制的后门防御与基于信息瓶颈理论的鲁棒模型安全加固方法，构建了面向模型端的主动安全增强机制。项目形成了覆盖数据预处理-模型训练-模型部署的内在协同安全保障体系，丰富了对抗机器学习的基础理论、关键方法与技术工具，拓宽了人工智能内生安全的研究领域。
项目研究取得了一系列重要的研究成果，发表学术论文 100 余篇，其中包含CCF A高水平学术论文40余篇。本项目的主要完成人中，张肖瑜获得2020年度中国中文信息学会优秀博士学位论文提名奖、2025 年度 ACM SIGHPC 中国新星奖、2026年度陕西省青年人才托举计划，4人(张肖瑜、苗美霞、娄坚、陈晓峰)获得国际会议 ACISP 2025 最佳论文奖。研究取得了一系列高水平的研究成果，获得了国内外同行学者的广泛认可和正面评价，取得了良好的社会经济效益。 |
| 项目简介： | 
|
| 客观评价： | 
|
| 代表性论文专著目录： | 
|
| 主要完成人情况： | - 姓名：张肖瑜
排名：1
行政职务：无
技术职称：副教授
工作单位：西安电子科技大学
完成项目时所在单位：西安电子科技大学
对本项目主要学术贡献：本项目的第一完成人，提出了基于主动遗忘和密态数据的敏感关键数据保护方法，提出了基于可解释性的鲁棒模型构建方法。是代表性论文[1][2][4][5]主要完成人。
- 姓名：苗美霞
排名：2
行政职务：无
技术职称：副教授
工作单位：西安邮电大学
完成项目时所在单位：西安邮电大学
对本项目主要学术贡献：本项目的第二完成人，是第 1 项发现点的合作贡献者，构建了面向密文流式数据库的可验证更新技术新框架，解决了可验证数据流协议的实用性差的问题，是代表性论著[3]的主要完成人。
- 姓名：娄坚
排名：3
行政职务：无
技术职称：副教授
工作单位：中山大学
完成项目时所在单位：西安电子科技大学
对本项目主要学术贡献：本项目的第三完成人，是第 1 项发现点的合作贡献者，提出了一种面向对抗训练模型的数据遗忘方法，打破传统单变量遗忘更新方法无法充分建模数据影响力的禁锢。是代表性论文[4][5]的主要完成人。
- 姓名：陈晨洋
排名：4
行政职务：无
技术职称：其它
工作单位：西安电子科技大学
完成项目时所在单位：西安电子科技大学
对本项目主要学术贡献：本项目的第四完成人，是第 1 项发现点的合作贡献者，提出了一种知识级别的可解释数据遗忘方法，建立了复杂深度学习模型上进行高效且彻底的数据遗忘新理论，是代表性论著[2]的主要完成人。
- 姓名：马旭
排名：5
行政职务：院长
技术职称：教授
工作单位：曲阜师范大学
完成项目时所在单位：西安电子科技大学
对本项目主要学术贡献：本项目的第五完成人，是第 2 项发现点的合作贡献者，发现神经网络的聚类效应，从理论上证明了此聚类效应的出现归因于神经网络的训练是服从信息瓶颈理论的一个下界函数。是代表性论文[5]的主要完成人。
- 姓名：陈晓峰
排名：6
行政职务：院长
技术职称：教授
工作单位：西安电子科技大学
完成项目时所在单位：西安电子科技大学
对本项目主要学术贡献：本项目的第六完成人，是第 2 项发现点的合作贡献者，提出了一种基于 BN 层参数的数据反演算法，实现了零真实数据的后门防御。是代表性论文[1][2][3]的主要完成人。
|
| 主要完成单位： | - 单位名称：西安电子科技大学
单位贡献：西安电子科技大学作为项目第一完成单位，全面负责项目研究工作，围绕对抗机器学习场景中的数据主动防护与安全增强关键技术展开研究，在面向敏感数据主动防护方面，系统性地提出了基于主动遗忘和密态数据的敏感关键信息保护方法。打破传统单变量遗忘更新方法无法充分建模数据影响力的禁锢，突破了联邦对抗攻击下动态水印数据反演与遗忘技术瓶颈，解决了动态场景下群组用户隐私信息和模型参数泄露的问题，为敏感数据主动隐私防护提供了技术支撑。本项目取得一系列重要研究成果，可有效应对复杂的信息安全态势，服务国家数字经济发展战略需求，具有非常重要的应用价值。
- 单位名称：西安邮电大学
单位贡献：西安邮电大学作为项目第二完成单位，与第一完成单位合作完成项目研究工作，围绕对抗机器学习场景中的数据主动防护工作，构建了高效的可验证数据流审计方法，在实现数据隐私防护的前提下从源头上保障训练数据的完整性和可用性。通过与第一完成单位协同合作，为建立对抗机器学习场景中的数据主动防护的核心理论和技术体系贡献了力量。
|
| 完成人合作关系说明： | 完成人合作关系说明：1
|
