机器学习，尤其是神经网络，已广泛部署在行业环境中，模型通常被部署为预测服务。但是，具有对模型的查询访问权的对手可以窃取该模型以获得与远程目标模型基本一致的替代模型，这就是模型窃取攻击。本次学术汇报从模型窃取的基本概念和常用方法分类展开讨论，然后结合两篇顶会论文介绍了两类模型窃取方法的基本原理，分析两类方法的优劣势，并且在最后还讨论了模型窃取的未来发展方向。
模型窃取-鲁川原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2021/05/10/%e6%a8%a1%e5%9e%8b%e7%aa%83%e5%8f%96/
随着计算机技术的发展，漏洞威胁问题已然日渐严峻，高效、准确的漏洞检测技术对于漏洞的发现和防护都至关重要，但目前常用的检测算法面临漏洞数据集少、信息不准确、构建成本高等问题，所以一个…
研究文本生成大模型的后门攻击，揭示了现有文本大模型的后门风险。本次学术报告详细介绍了现有文本生成模型的后门分类方法以及基准数据集，在文本大模型的多个下游任务实现了后门攻击，并总结了…
This report centers on the “Wireless Traffic Dataset for KRACK and Kr00k Attacks in …
二进制代码-源代码匹配是信息安全领域的重点研究方向之一。在给定二进制代码的情况下，逆向分析研究人员希望找到它对应的源代码，从而提升逆向分析的效率和准确率。但由于源代码和二进制代码的…
The susceptibility of deep neural networks to backdoor or trojan attacks has been demonstr…
代码变更表示学习技术通常将代码变更进行结构化或序列化的中间表示，并将中间表示输入到表示学习模型以获取代码变更中更细粒度的特征，是众多软件工程任务的重要环节之一。本次报告介绍了2类任…
本报告介绍了深度学习后门攻击的基本概念、类型划分等背景知识，对一种基于模型权重修改和一种基于模型结构修改的后门攻击算法进行了具体说明，阐述了对于深度学习后门攻击领域现状的未来发展的…
智能模型的不确定性是模型内生脆弱性问题的重要表征之一，反映了模型对输入数据预测结果的可信程度，包含了对数据和模型两方面缺陷的量化估计。本次报告介绍了模型不确定性估计工作基本概念，讲…
本报告讲述了cache侧信道攻击与防御基本分类及理论基础，给出了基于冲突和基于访问两类侧信道攻击和反制措施的基本概念，并对介绍基于映射随机化和基于隔离两类防御方法的文献进行了详细介…
研究针对文本嵌入模型的模型反演攻击，揭示了自然语言处理领域面临的隐私泄露风险。本次学术报告介绍了关于文本嵌入模型模型反演攻击的最新方法，并指明了现有的缺陷和未来发展方向。
