对抗样本的存在表明现代神经网络是相当脆弱的。为解决这一问题，研究者相继提出了许多方法，其中使用对抗样本进行训练被认为是至今最有效的方法之一。
然而，经过对抗训练后神经网络对于正常样本的性能往往会下降，这一问题引起了学术界的广泛关注，这种准确度与鲁棒性之间互相妥协的本质原因仍未被找出。传统的基于经验风险最小化的神经网络为何不鲁棒？为何需要对抗训练才能使其鲁棒？为什么越鲁棒的模型，在干净测试集上的精度反而越低？甚至鲁棒性越强的模型，在干净样本上的准确率越差。带着这些问题，本次学术报告结合2019-2020年的经典顶会论文，针对深度学习时代下深度神经网络的鲁棒性问题展开讨论。
对抗环境下的鲁棒机器学习-郝靖伟原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2021/01/21/%e5%af%b9%e6%8a%97%e7%8e%af%e5%a2%83%e4%b8%8b%e7%9a%84%e9%b2%81%e6%a3%92%e6%9c%ba%e5%99%a8%e5%ad%a6%e4%b9%a0/
在训练层数较多的神经网络的过程中，使用基于反向传播的梯度优化算法来优化参数有可能会遇到梯度消失或梯度爆炸的问…
成员推理攻击（Membership Inference Attack）作为一种隐私攻击方法，其攻击对象是机器学习目标模型，攻击目标是推理一条或一批数据是否作为目标模型的训练集，以此…
APT攻击事件频发，严重危害着各国政府部门、组织、公司的网络信息安全。溯源图追踪日志之间的因果关系，保留了系统的丰富执行历史信息，便于检测长期且隐蔽的APT攻击。本次汇报首先讲解了…
网络表示是衔接网络原始数据和网络应用任务的桥梁。网络表示学习算法负责从网络数据中学习得到网络中每个节点的向量…
研究文本分类硬标签黑盒模型的对抗样本生成方法，分析模型的潜在安全风险，为加强模型鲁棒性提供方向。本次学习报告讲解了文本分类模型对抗样本生成方法的总体状况，并介绍了关于文本分类硬标签…
CSRF（Cross-site request forgery）全称跨站请求伪造，是利用受害者尚未失效的身份…
动态规划是用来解决多阶段决策过程最优化问题的一种方法，它的适用问题一般需要具备2个要素ー最优子结构与重叠子问…
基于突变的模糊测试对于漏洞检测能力的开发和测试资源的利用较为重要，为了快速、高效地寻找到待测程序中的缺陷，需要提高模糊测试过程的测试效率。本次报告为大家介绍了基于突变的模糊测试的基…
对抗式多任务学习是针对普通的多任务学习模型在共享特征提取时，可能会被特定任务的特定特征所污染的问题所提出的，…
代码自动编辑任务通过应用频繁出现的编辑模式对现有代码进行修改，能够提升软件开发的效率。CODIT方法将代码编辑过程建模为树结构变换和标记生成两个阶段。MODIT方法输入整合需要编辑…
