本次学术报告探讨模型窃取防御方法，重点介绍两种前沿防御方案。ModelShield采用自适应鲁棒水印技术，通过查询响应分布自动注入水印，实现被动溯源与版权验证；QUEEN则基于查询敏感度分析与输出扰动机制，动态反制攻击，实现主动防御。
模型窃取防御：从被动溯源到主动防御-杨树原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2025/12/08/%e6%a8%a1%e5%9e%8b%e7%aa%83%e5%8f%96%e9%98%b2%e5%be%a1%ef%bc%9a%e4%bb%8e%e8%a2%ab%e5%8a%a8%e6%ba%af%e6%ba%90%e5%88%b0%e4%b8%bb%e5%8a%a8%e9%98%b2%e5%be%a1/
研究提示词窃取攻击，揭示了提示词面临的泄露风险。本次学术报告介绍了提示词的应用价值和市场体量，讲述了关于提示词窃取攻击的最新方法，指明了现有的缺陷和未来发展方向。
以深度学习为代表的人工智能技术正在悄然改变人们的生产生活方式，但深度学习模型的部署也带来了一定的安全隐患。对抗样本攻击能使深度学习模型系统进行误判，对各个人工智能应用领域造成了严重…
二进制代码补丁存在性测试（Patch Presence Test, PPT） 旨在检测目标二进制文件是否已应用特定补丁，以确保安全性和合规性。希望在这次学术报告中，大家掌握二进制代…
深度模型可解释性一直是业界关注的问题。报告介绍了一种新颖的深度学习可解释性方法——树正则化。通过在深度模型训…
针对神经网络模型的缺陷测试使用了神经元覆盖率指标指导测试，这是一种从软件测试领域迁移的概念，指的是测试激活的神经元越多，测试越充分。但是近年来这种测试方法的有效性存疑，特别是测试生…
最新的特定安全攻防场景可以细化为两个研究方向：匿名通信网络的网站指纹防御和僵尸网络的域名生成，以此来介绍对抗样本在防御任务和攻击任务中的应用。网站指纹攻击可以从网站中提取流量模式，…
代码自动编辑任务通过应用频繁出现的编辑模式对现有代码进行修改，能够提升软件开发的效率。CODIT方法将代码编辑过程建模为树结构变换和标记生成两个阶段。MODIT方法输入整合需要编辑…
随着对抗样本的危险性日益凸显，提高模型的鲁棒性成为研究的主要方向之一，然而，在评估鲁棒性方面还没有统一的标准，使得不同的防御方法之间对比存在很大的困难。
iForest （Isolation Forest）孤立森林 是一个基于Ensemble的快速异常检测方法，具有线性时间复杂度和高精…
本报告介绍了跨语言过程调用的基本概念，展示了基于socket、http通信和rpc框架等三种方法的网络通信式过程调用的原理，梳理了基于ctypes和pybind11等两种方法的链接…
