本报告介绍了联邦学习领域后门攻击与防御的基本概念、联邦学习的训练流程，分别聚合规则和聚类规则的后门防御算法进行具体说明，阐述了联邦学习领域后门攻击与防御的发展方向及个人思考。
联邦学习的后门防御方法-杨得山原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2023/04/09/%e8%81%94%e9%82%a6%e5%ad%a6%e4%b9%a0%e7%9a%84%e5%90%8e%e9%97%a8%e9%98%b2%e5%be%a1%e6%96%b9%e6%b3%95/
本次学术报告简要介绍了人工智能系统面临的各种安全威胁，通过将对抗样本与后门攻击进行多方面比较，从而引入了机器学习模型后门攻击的原理和检测方法，以及后门攻击技术的应用领域。
本次报告围绕大模型越狱攻击的检测技术展开，首先阐述了越狱检测的定义，然后介绍了常见的越狱攻击以及检测技术的研究现状。接着详细介绍了GradSafe和JailGuard两种主流方法，…
LSTM，全称为长短期记忆网络（Long Short-Term Memory networks），是一种深度神经网络，同时也是一种特殊的循环神经网络（RNN）。通过在RNN的网…
本次报告介绍一种域自适应网络嵌入框架DANE，该框架解决了嵌入空间偏移和嵌入分布偏移的问题。在DANE中，来自多个网络的节点通过一组共享的可学习参数被编码为向量，以便向量共享对齐的…
对抗样本会的存在严重威胁到机器学习模型的输出准确性。目前最常用的对抗样本生成方法是FGSM，其通过在沿着损失…
遗忘学习被称为机器遗忘或取消学习，是指机器学习或深度学习系统中先前获取的知识随着时间推移而退化的现象。本次学习报告的主要讲解了两种人工智能模型的遗忘学习方法，遗忘训练数据中的特定样…
成员推理攻击（Membership Inference Attack）作为一种隐私攻击方法，其攻击对象是机器学习目标模型，攻击目标是推理一条或一批数据是否作为目标模型的训练集，以此…
本报告介绍了开放式信息抽取（OIE）的基本概念，展示了Neural OIE的两大类方法原理，并分别讲述了基于Transformer的Nerual OIE技术和利用Meta-Lear…
本次学术报告探讨模型窃取防御方法，重点介绍两种前沿防御方案。ModelShield采用自适应鲁棒水印技术，通过查询响应分布自动注入水印，实现被动溯源与版权验证；QUEEN则基于查询…
