机器学习，尤其是神经网络，已广泛部署在行业环境中，模型通常被部署为预测服务。但是，具有对模型的查询访问权的对手可以窃取该模型以获得与远程目标模型基本一致的替代模型，这就是模型窃取攻击。本次学术汇报从模型窃取的基本概念和常用方法分类展开讨论，然后结合两篇顶会论文介绍了两类模型窃取方法的基本原理，分析两类方法的优劣势，并且在最后还讨论了模型窃取的未来发展方向。
模型窃取-鲁川原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2021/05/10/%e6%a8%a1%e5%9e%8b%e7%aa%83%e5%8f%96/
人工智能技术发展迅速，不仅在图像领域，在决策系统等领域也发挥了重要作用。用于模型训练的数据集中含有显示或者隐式的敏感属性（如性别、种族等），模型往往会利用敏感属性的特征做出决策，这…
本报告重点讲解了AI测试的发展历史，从2007年Murphy等人认为AI系统是不可测试到后续变形测试、差分测试、覆盖测试、突变测试等传统测试方法的引入，再到正确性、鲁棒性、隐私性、…
二进制程序函数相似性检测常用于代码抄袭检测，同源漏洞判别，恶意软件分析等领域，本次报告主要简要介绍了基于图匹配，图嵌入的检测方法，详细介绍了基于图神经网络的相似性检测方法，最后介绍…
大语言模型生成文本规模持续扩大，释义改写、词语替换和字符扰动等对抗攻击削弱了检测可靠性。本次学术报告聚焦机生文本检测攻防对抗，系统介绍基于释义逆变换与动态对抗训练的鲁棒防御方法，分…
物联网技术和人工智能的快速发展，含时间、空间特性的数据指数增长。如何进行多源异构时空数据本身特性出发，和机器学习深度学习技术深入融合，实现数据实现知识发现和信息挖掘，服务于城市发展…
Android应用在开发和发布初期可能存在各种原因导致的隐藏安全风险，这些安全风险如若不进行检测和修复，会给用户和开发者带来巨大的损…
本报告介绍了联邦学习领域后门攻击与防御的基本概念、联邦学习的训练流程，分别聚合规则和聚类规则的后门防御算法进行具体说明，阐述了联邦学习领域后门攻击与防御的发展方向及个人思考。
本次报告主要讲述了Android第三方库检测的相关内容。介绍了第三方库的基本概念和相关研究，解释了第三方库检测的基本方法，详细讲解其中的相似性对比方法，主要针对库检测和库版本识别进…
多标签文本分类是对文本信息进行组织、利用和检索的有效手段，能够提高数据处理效率，具有重要的实际价值。平面多标签文本分类是多标签分类下的子任务，标记每个给定文本与最相关的多个标签。本…
内存管理是指软件运行时对计算机内存资源的分配和使用的技术。其最主要的目的是如何高效，快速的分配，并且在适当的…
