成员推理攻击和防御

机器学习已经演化为了一种服务模式,即机器学习即服务模式。互联网公司或提供模型训练接口,或提供模型预测接口给用户以提供相应的服务。但是,在提供服务的整个过程中,机器学习模型不可避免的需要面对安全以及隐私问题。本次学术报告从信息安全CIA模型出发对面临的问题进行分类阐述,并对模型隐私问题中的成员推理攻击的基本概念和防御方法展开讨论,并结合两篇论文介绍了攻击的基本原理和防御的基本思想。最后,针对成员推理攻击的实际应用以及未来发展方向进行了讨论。

成员推理攻击和防御-郜森

原创文章,作者:bfs,如若转载,请注明出处:https://www.isclab.org.cn/2021/06/24/%e6%88%90%e5%91%98%e6%8e%a8%e7%90%86%e6%94%bb%e5%87%bb%e5%92%8c%e9%98%b2%e5%be%a1/

(4)
bfsbfs
上一篇 2021年6月17日 下午10:29
下一篇 2021年6月25日

相关推荐

  • 语义级代码克隆检测

    代码克隆(Code Clone),是指存在于代码库中两个及两个以上相同或者相似的源代码片段, 是软件开发中的常见现象。近年来,针对Ⅳ型克隆即语义级克隆的检测技术受到了广泛关注。主要…

    2022年10月11日
    3.5K
  • 如何优雅地阅读和复用代码

    面对大型软件项目,如何准确、快速地找到目标代码的位置将会极大地加速我们的二次开发。本次报告以GUI程序为例介绍了软件源码查找、修改和使用的一般流程。对初学者的软件项目开发工作大有裨…

    2020年1月2日
    3.2K
  • Bias-Variance trade-off

    背景 熟悉模式识别的童鞋都很清楚,在模式识别领域内存在许多的学习算法和技术。面对纷繁的算法,我们必然会产生疑问:究竟哪一个算法才是“最好的”。值的强调的是每个算法都有相应的先验假设…

    2016年1月21日
    3.5K
  • Cache侧信道攻击与防御

    本报告讲述了cache侧信道攻击与防御基本分类及理论基础,给出了基于冲突和基于访问两类侧信道攻击和反制措施的基本概念,并对介绍基于映射随机化和基于隔离两类防御方法的文献进行了详细介…

    2021年11月23日
    4.3K
  • 数据处理:飞一般的感觉

    本次报告介绍了Python中数据读取和处理的优化方法,对比了csv、pkl、feather、json等数据存储格式的读写速度与空间占用,分析了各数据格式的具体应用场景,同时引入混合…

    2022年12月26日
    2.8K
  • 多模态意图识别

    聚焦多模态意图识别场景下复杂意图理解与细粒度语义推理问题,概述文本、视频、音频等模态融合中的语义异构、噪声干扰、模态冲突与粗粒度表示的局限;重点介绍 LGSRR 基于大模型引导的细…

    2026年7月13日
    84
  • EM算法的应用——GMM的参数估计

            EM(Expectation-maximization)算法是机器学习十大算法之一。…

    2014年12月11日
    5.1K
  • 大模型指导的协议模糊测试

    本次报告围绕大模型指导的协议模糊测试技术展开,首先阐述了大模型指导的协议模糊测试的基本概念、研究背景和研究意义,然后介绍了传统协议模糊测试方法的特点与优劣势,并介绍了大模型指导的协…

    2025年5月19日
    3.1K
  • 计算机启动流程详解2

          计算机从按下电源按钮到操作系统启动完成的过程其实相当复杂,大多数普通用户可能并不了解其中的过程和玄机。本次报…

    2018年6月10日
    3.1K
  • 函数级漏洞检测

    本次报告讲述漏洞检测相关基本概念,源码级漏洞检测的一般步骤,主要从关键点选取、代码切片、代码表示等几个方面讲解源码漏洞检测方法,主要针对泛化性、多类型漏洞检测问题进行研究。

    2022年10月30日
    2.9K