随着机器学习的快速发展，图像分类、恶意软件识别等多个领域都通过建立机器学习模型解决相应的问题。但由于一些训练出的模型可能涉及训练数据的隐私信息与模型的商业价值，所以其安全性一直备受关注。本次学术报告介绍了模型窃取技术的发展历程，重点讲解了在缺乏模型参数、模型结构以及训练数据等先验条件下，如何通过构造数据实现模型窃取的方法。
缺乏先验知识条件下的模型窃取方法-丁杨原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2021/04/14/%e7%bc%ba%e4%b9%8f%e5%85%88%e9%aa%8c%e7%9f%a5%e8%af%86%e6%9d%a1%e4%bb%b6%e4%b8%8b%e7%9a%84%e6%a8%a1%e5%9e%8b%e7%aa%83%e5%8f%96%e6%96%b9%e6%b3%95/
本次报告围绕基于GNN的加密流量分类技术展开，首先阐述了基于GNN的加密流量分类的基本概念、研究背景和研究意义，然后介绍了传统加密流量识别方法的特点与优劣势，并介绍了利用GNN进行…
本次学术报告对实验室以往在源代码漏洞检测方向的积累做一个总结，展望未来的发展方向，从技术和应用两个视角审查当前源代码漏洞检测面临的问题。进一步从泛化性、细粒度漏洞检测两个方面进行论…
研究文本生成大模型的后门攻击，揭示了现有文本大模型的后门风险。本次学术报告详细介绍了现有文本生成模型的后门分类方法以及基准数据集，在文本大模型的多个下游任务实现了后门攻击，并总结了…
目前针对二进制漏洞挖掘主要有三个研究方向：符号执行、污点分析和模糊测试。本次报告首先介绍了污点分析的三个重要…
元胞自动机(cellular automata，CA) 是一种时间、空间、状态都离散，空间相互作用和时间因果…
风格迁移是将多种类型风格转换成另一风格，是自然语言处理领域的一个重要问题，表征着文本生成和风格控制技术的发展情况，在大数据时代下的隐私保护等方面起着重要作用。本文主要介绍了文本风格…
遗忘学习被称为机器遗忘或取消学习，是指机器学习或深度学习系统中先前获取的知识随着时间推移而退化的现象。本次学习报告的主要讲解了两种人工智能模型的遗忘学习方法，遗忘训练数据中的特定样…
联邦学习（Federated Learning）在2016年由谷歌最先提出，其设计目标是在保障大数据交换时的信息安全、保护终端数据和个人数据隐私、保证合法合规的前提下，在多参与方或…
随着对抗样本的危险性日益凸显，提高模型的鲁棒性成为研究的主要方向之一，然而，在评估鲁棒性方面还没有统一的标准，使得不同的防御方法之间对比存在很大的困难。
