机器学习已经演化为了一种服务模式，即机器学习即服务模式。互联网公司或提供模型训练接口，或提供模型预测接口给用户以提供相应的服务。但是，在提供服务的整个过程中，机器学习模型不可避免的需要面对安全以及隐私问题。本次学术报告从信息安全CIA模型出发对面临的问题进行分类阐述，并对模型隐私问题中的成员推理攻击的基本概念和防御方法展开讨论，并结合两篇论文介绍了攻击的基本原理和防御的基本思想。最后，针对成员推理攻击的实际应用以及未来发展方向进行了讨论。
成员推理攻击和防御-郜森原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2021/06/24/%e6%88%90%e5%91%98%e6%8e%a8%e7%90%86%e6%94%bb%e5%87%bb%e5%92%8c%e9%98%b2%e5%be%a1/
研究深度半监督聚类方法，首先利用自编码器对高维数据降维处理，同时提取构建三种范围的约束信息：主动构建的成对约束、带标签的种子约束、簇间大小比例约束；最后融合三种约束信息指导编码器训…
智能模型的不确定性是模型内生脆弱性问题的重要表征之一，反映了模型对输入数据预测结果的可信程度，包含了对数据和模型两方面缺陷的量化估计。本次报告介绍了模型不确定性估计工作基本概念，讲…
法律文本可解释性研究是将可解释性研究方法应用到法律文本领域，旨在构建智慧法庭，辅助法官判案，实现法律检索和类案匹配。本次学术报告从案件罪名预测和相似案例匹配两个应用角度进行讲解，对…
二进制函数相似性分析在1-Day漏洞检测、代码克隆检测、恶意软件检测、软件剽窃检测和自动软件修复等多个应用领域中具有广泛的应用。本次学术报告主要讲解了二进制代码相似性检测技术的基本…
本报告讲述了加密恶意流量检测领域基本概念，通过详细介绍基于频域分析的实时鲁棒恶意流量检测和基于自适应聚类的网络边缘恶意流量分类方法，启发思考通过统计聚类分析来提升加密恶意流量检测算…
关联规则分析是以中基于规则的机器学习算法，也是一种用于知识发现的算法。可以在大数据中发现感兴趣的关系，目的是…
人工智能的发展，驱动新赋能方式，2018年国家自然科学基金首次在信息科学部下增设“教育信息科学与技术”的专门代码（F0701），同时《地平线报告（2022高等教育版）》智能学习分析…
面对大型软件项目，如何准确、快速地找到目标代码的位置将会极大地加速我们的二次开发。本次报告以GUI程序为例介绍了软件源码查找、修改和使用的一般流程。对初学者的软件项目开发工作大有裨…
本报告主要介绍数据样本的质量评估方法。随着数据规模的不断扩大，如何有效评估数据样本的贡献成为提升模型性能和效率的关键问题。报告分析了当前领域内的主要评估方法，讨论了不同评估标准对模…
简单介绍了堆的管理与分配，主要讲述了堆上两种典型的攻击方式，即fast bin attack 和 Unsor…
