随着大数据时代的来临和计算机算力的不断提升，机器学习模型迅速发展，成为计算机视觉、自然语言处理以及恶意软件检测等领域的研究热点。然而最近的研究发现，机器学习模型面临着严峻的安全威胁。本次学术报告介绍了机器学习模型存在的安全性问题，并以模型窃取为例，介绍了模型窃取的发展历史与主要的窃取方法，重点讲解了在未知目标模型训练数据的情况下，如何通过知识蒸馏实现模型窃取。实验结果表明，基于知识蒸馏方法所得到的替代模型在效果上明显优于其他方法。
基于知识蒸馏的模型窃取方法-丁杨原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2021/11/15/%e5%9f%ba%e4%ba%8e%e7%9f%a5%e8%af%86%e8%92%b8%e9%a6%8f%e7%9a%84%e6%a8%a1%e5%9e%8b%e7%aa%83%e5%8f%96%e6%96%b9%e6%b3%95/
本报告介绍了深度神经网络模型窃取检测的三种方法，从算法思想，实验结果，算法分析三个角度对已有算法进行贯穿式总结，阐述了模型窃取检测领域的难点，提升对模型安全领域问题的认识
本次报告从BERT框架入手，讲解基于预训练的加密流量表征方法。首先介绍加密流量分析的问题和挑战，在基本概念部分着重分析BERT输入表示、预训练过程中的MLM和NSP任务，然后以ET…
特征选择是指为了构建模型而选择相关特征子集的过程，目的是去除特征中的无关特征和冗余特征，进而达到简化模型，增…
2013年以来深度的神经网络模型在各方面得到了广泛应用，甚至在某些方面达到可以匹配人类的性能，用于“欺骗”神…
本报告探讨了大语言模型智能体工具调用机制中的安全漏洞，重点分析了两种新型攻击方法。AMA攻击通过黑盒迭代优化恶意工具的元数据，使其在语义合法的前提下显著提升被智能体选择的概率，在多…
随着智慧教育系统（Intelligent Tutoring System, ITS）的快速发展，ITS以其时空约束少、便捷程度高和个性化定制学习的优势，在现代教育事业中获得广泛关注…
针对开源软件库输入构建需要符合特定编程语言语法规范的问题，现有研究方法分别从构建模型输入和构建API输入两条路线出发，。LEMON方法针对缺陷引起的极小输出差异难以被察觉的问题，采…
XSS攻击是客户端脚本安全中的头号大敌，多次位列OWASP TOP 10榜首，严重威胁到web网络安全。XS…
在机器学习（ML）和人工智能（AI）时代，保护隐私的数据分析至关重要，在这个时代，一个可用性强的数据集可以提供比优化算法更高的收益。然而现有机制无法提供足够的隐私保障阻碍了自然语言…
摘要：本报告介绍了web漏洞挖掘中的基本概念，实战通用方案及相关思路总结，进一步详细讲解了手工挖掘中存在的痛点问题，重点阐述了前沿自动化漏洞挖掘算法原理，分析其如何弥补手工挖掘的不…
