机器学习已经演化为了一种服务模式，即机器学习即服务模式。互联网公司或提供模型训练接口，或提供模型预测接口给用户以提供相应的服务。但是，在提供服务的整个过程中，机器学习模型不可避免的需要面对安全以及隐私问题。本次学术报告从信息安全CIA模型出发对面临的问题进行分类阐述，并对模型隐私问题中的成员推理攻击的基本概念和防御方法展开讨论，并结合两篇论文介绍了攻击的基本原理和防御的基本思想。最后，针对成员推理攻击的实际应用以及未来发展方向进行了讨论。
成员推理攻击和防御-郜森原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2021/06/24/%e6%88%90%e5%91%98%e6%8e%a8%e7%90%86%e6%94%bb%e5%87%bb%e5%92%8c%e9%98%b2%e5%be%a1/
高斯混合模型（Gaussian mixture model，GMM）用于对样本的概率密度分布进行估计，而估计…
在大型项目开发时，可能会遇到多域名或多个ip之间使用ajax异步请求进行通信的情况，默认情况下，浏览器会阻断ajax对跨域请求的读取。本此报告介绍了开发中的跨域方案和跨域方案可能产…
后门防御旨在使用神经元剪枝、知识蒸馏等手段消除模型中隐藏的后门，阻止攻击者使用触发器样本控制深度学习模型的输出。本次学术报告主要讲解了两种以对抗性扰动和后门攻击关系为基础的后门防御…
本报告围绕“数据集不平衡程度评估”展开，聚焦于如何科学量化多类数据中的结构性不平衡问题，突破传统以样本比例为核心的评估局限。报告系统回顾了不平衡评估的发展脉络，分析了现有方法在面对…
法律文本可解释性研究是将可解释性研究方法应用到法律文本领域，旨在构建智慧法庭，辅助法官判案，实现法律检索和类案匹配。本次学术报告从案件罪名预测和相似案例匹配两个应用角度进行讲解，对…
本次学术报告探讨模型窃取防御方法，重点介绍两种前沿防御方案。ModelShield采用自适应鲁棒水印技术，通过查询响应分布自动注入水印，实现被动溯源与版权验证；QUEEN则基于查询…
联邦学习（Federated Learning）在2016年由谷歌最先提出，其设计目标是在保障大数据交换时的信息安全、保护终端数据和个人数据隐私、保证合法合规的前提下，在多参与方或…
Bias-Variance trade-off 启发式参数优化算法举例 参数寻优：梯度下降/牛顿下降法 追根溯源 频繁项集算法分析 并查集算法及其在约束传递中的应用 Floyd解决…
深度学习模型具有高度非线性和特征空间抽象等特性，内部决策逻辑难以解释，导致其实际应用严重受限。本次报告从深度神经网络可解释性的基本概念出发，对常见的解释方法进行简介，并介绍了一篇将…
本次报告围绕环境注入攻击展开，首先阐述了环境注入攻击的基本概念、研究背景和研究意义，然后介绍了环境注入攻击的研究现状。接着详细介绍了EIA和eTAMP两种具备代表性的方法，包括各自…
