模型水印攻击旨在干扰、破坏或绕过嵌入在模型中的水印信息。本次报告从模型水印攻击的概念入手，分析其原理和应用场景，利用模型水印攻击方法对模型水印算法分析与评估，为模型水印算法的改进提供新的优化方向。
模型水印攻击方法-邢凤桐原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2024/08/19/%e6%a8%a1%e5%9e%8b%e6%b0%b4%e5%8d%b0%e6%94%bb%e5%87%bb%e6%96%b9%e6%b3%95/
超图对比学习
上一篇
2024年8月19日 上午10:00
提升WEB应用安全——BFS团队提交开源CMS 12个现存漏洞
下一篇
2024年8月28日 上午11:15
相关推荐
-
偷走你的训练数据：模型反演攻击方法研究
通过模型反演攻击方法研究，验证了模型训练数据面临泄露风险的问题，并希望以此促进对应防御手段的发展。本次学术报告介绍了模型反演攻击方法的相关知识，并聚焦于两个经典的白盒和黑盒攻击方法…
-
人工智能系统安全综述
人类正在经历着由深度学习技术推动的人工智能浪潮，它为人类生产和生活带来了巨大的技术革新。然而，以往的机器学习理论大多没有考虑开放甚至对抗的系统运行环境，逐渐暴露出了许多安全和隐私问…
-
基于MPEG-2码流的非线性编辑系统编辑方法
以本人为主提出了基于ES（基本数据流层）的视, 音频剪辑算法；基于打包数据流层的视, 音频剪辑算法；基于PES流的视, 音频同步剪辑算法。并基于这些算法实现了基于MPEG-2码流的…
-
模型窃取防御：从被动溯源到主动防御
本次学术报告探讨模型窃取防御方法，重点介绍两种前沿防御方案。ModelShield采用自适应鲁棒水印技术，通过查询响应分布自动注入水印，实现被动溯源与版权验证；QUEEN则基于查询…
-
对抗式多任务学习
对抗式多任务学习是针对普通的多任务学习模型在共享特征提取时，可能会被特定任务的特定特征所污染的问题所提出的，…
-
深度半监督聚类技术
研究深度半监督聚类方法，首先利用自编码器对高维数据降维处理，同时提取构建三种范围的约束信息：主动构建的成对约束、带标签的种子约束、簇间大小比例约束；最后融合三种约束信息指导编码器训…
-
卷积神经网络在图中的应用
卷积神经网络可以有效提取空间特征，但是它研究的对象还是限制在具有规则空间结构的欧几里得数据。本次学术报告重点…
-
超参数优化
本次报告介绍了超参数的概念和对模型的影响，解释了超参数与模型参数的区别，详细讲解了网格搜索、随机搜索、贝叶斯优化三种优化方法，分析其使用场景及优缺点，最后列举了三种实用的开源调优工…
-
属性缺失异质图神经网络
本报告主要介绍属性缺失异质图神经网络，探讨了异质图研究领域的发展历程，详细介绍了属性缺失异质图的基本概念、常用处理方法以及两种前沿的属性补全异质图神经网络。
-
面向多智能体的传染性越狱
本报告围绕多智能体系统的传染性越狱安全风险展开，重点关注如何通过攻击单个智能体，利用多智能体间的通信、记忆检索与协作机制，将越狱效应在系统中指数级扩散。报告从多智能体架构、攻击面、…
