人工智能系统面临着多种安全威胁，其中对抗样本攻击被广泛应用于诸如计算机视觉、自然语言处理、音频处理以及恶意软件检测等多个领域。本文介绍了常见的对抗样本检测方法和原理。特别的，简单分析了两种基于网络一致性的对抗样本检测方法，并对对抗样本检测技术在网络安全领域的未来发展做了展望。随着攻击手法越来越多样化，攻击算法越来越高效，更加稳健、通用的防御方法是未来的研究热点。
基于网络一致性的对抗样本检测-尹培宇原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2020/12/20/%e5%9f%ba%e4%ba%8e%e7%bd%91%e7%bb%9c%e4%b8%80%e8%87%b4%e6%80%a7%e7%9a%84%e5%af%b9%e6%8a%97%e6%a0%b7%e6%9c%ac%e6%a3%80%e6%b5%8b/
多视角即从各种不同的角度观察同一事物 ，在深度学习中即引入一个函数去模型化特定的视角，并且利用相同输入的冗余视角去联合优化所有函数，达到更好的模型效果。多视角学习可应用于大多数数据…
1.Xen虚拟平台 Xen Hypervisor 位于操作系统与硬件之间，为其上层运行的操作系统内核提供虚拟化的硬件环境。Xen采用混合模式（Hybrid Model），因此在Xe…
本次学术报告探讨模型窃取防御方法，重点介绍两种前沿防御方案。ModelShield采用自适应鲁棒水印技术，通过查询响应分布自动注入水印，实现被动溯源与版权验证；QUEEN则基于查询…
多智能体系统安全是当前人工智能研究中的重要方向，与系统稳定性、信息可信性及防御能力密切相关，但现有研究多集中于单智能体输入输出过滤或局部安全策略，难以刻画复杂交互网络中的全局风险传…
联邦学习（Federated Learning）在2016年由谷歌最先提出，其设计目标是在保障大数据交换时的信息安全、保护终端数据和个人数据隐私、保证合法合规的前提下，在多参与方或…
本次报告对文本数据的脱敏方法展开介绍，介绍了目前常用的文本数据脱敏方法，重点讲解了文本数据泛化脱敏的基本概念，详细阐述了文本泛化脱敏方法和文本差分隐私噪声扰动脱敏方法，最后对比了文…
人工智能软件系统的安全逐渐受到人们的重视，深度学习软件库存在的缺陷可能威胁到框架之上的模型和系统，目前仍然缺少深度学习软件库测试的系统方法。面对深度学习安全领域，针对深度学习软件库…
程序崩溃的根本原因分析技术旨在通过分析崩溃时的输入数据，自动推断并定位导致崩溃的根本原因所在的位置，辅助开发人员快速修复软件缺陷。本次报告介绍了2个利用谓词进行程序崩溃的根本原因分…
风格迁移是将多种类型风格转换成另一风格，是自然语言处理领域的一个重要问题，表征着文本生成和风格控制技术的发展情况，在大数据时代下的隐私保护等方面起着重要作用。本文主要介绍了文本风格…
大语言模型为自动化评审提供了发展契机，但通用AI模型在进行初步筛查和生成评审报告时，普遍存在积极性偏差、知识幻觉以及评价缺乏深度的缺陷。本次学术报告结合DeepReviewer和R…
