随着大数据时代的来临和计算机算力的不断提升，机器学习模型迅速发展，成为计算机视觉、自然语言处理以及恶意软件检测等领域的研究热点。然而最近的研究发现，机器学习模型面临着严峻的安全威胁。本次学术报告介绍了机器学习模型存在的安全性问题，并以模型窃取为例，介绍了模型窃取的发展历史与主要的窃取方法，重点讲解了在未知目标模型训练数据的情况下，如何通过知识蒸馏实现模型窃取。实验结果表明，基于知识蒸馏方法所得到的替代模型在效果上明显优于其他方法。
基于知识蒸馏的模型窃取方法-丁杨原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2021/11/15/%e5%9f%ba%e4%ba%8e%e7%9f%a5%e8%af%86%e8%92%b8%e9%a6%8f%e7%9a%84%e6%a8%a1%e5%9e%8b%e7%aa%83%e5%8f%96%e6%96%b9%e6%b3%95/
遗忘学习被称为机器遗忘或取消学习，是指机器学习或深度学习系统中先前获取的知识随着时间推移而退化的现象。本次学习报告的主要讲解了两种人工智能模型的遗忘学习方法，遗忘训练数据中的特定样…
随着现代软件规模的不断扩大和复杂性的不断提高，软件缺陷调试所消耗的成本也在不断增加，软件缺陷的自动修复成为越来越迫切的需求。软件缺陷自动修复可以分为缺陷定位、补丁生成、补丁验证三个…
关键词提取技术是通过计算机程序从文档中自动提取重要性和主题性的词或短语的自动化技术，该技术在图书馆学、情报学和自然语言处理等领域应用广泛。目前关键词提取技术主要分为无监督和有监督这…
二进制程序函数相似性检测常用于代码抄袭检测，同源漏洞判别，恶意软件分析等领域，本次报告主要简要介绍了基于图匹配，图嵌入的检测方法，详细介绍了基于图神经网络的相似性检测方法，最后介绍…
本次报告介绍一种基于图神经网络的中文短文本匹配模型，采用图结构的多粒度输入解决中文文本分词错误、不一致、歧义等问题造成的匹配性能下降问题。同时，报告介绍了文本匹配的研究现状，帮助大…
程序崩溃的根本原因分析技术旨在通过分析崩溃时的输入数据，自动推断并定位导致崩溃的根本原因所在的位置，辅助开发人员快速修复软件缺陷。本次报告介绍了2个利用谓词进行程序崩溃的根本原因分…
内存管理是指软件运行时对计算机内存资源的分配和使用的技术。其最主要的目的是如何高效，快速的分配，并且在适当的…
前端开发是创建WEB页面或APP等前端界面呈现给用户的过程，通过HTML，CSS及JavaScript以及衍生出来的各种技术、框架、解决方案，来实现互联网产品的用户界面交互。本次学…
本报告探讨了大语言模型智能体工具调用机制中的安全漏洞，重点分析了两种新型攻击方法。AMA攻击通过黑盒迭代优化恶意工具的元数据，使其在语义合法的前提下显著提升被智能体选择的概率，在多…
本报告主要介绍了隐私数据类型，以及基本的隐私风险检测方法。第一篇论文侧重于分析APP整体的隐私数据泄露，并根据隐私泄露的风险程度给相应的App进行风险评级；第二篇侧重于研究APP中…
