对抗样本的存在表明现代神经网络是相当脆弱的。为解决这一问题，研究者相继提出了许多方法，其中使用对抗样本进行训练被认为是至今最有效的方法之一。
然而，经过对抗训练后神经网络对于正常样本的性能往往会下降，这一问题引起了学术界的广泛关注，这种准确度与鲁棒性之间互相妥协的本质原因仍未被找出。传统的基于经验风险最小化的神经网络为何不鲁棒？为何需要对抗训练才能使其鲁棒？为什么越鲁棒的模型，在干净测试集上的精度反而越低？甚至鲁棒性越强的模型，在干净样本上的准确率越差。带着这些问题，本次学术报告结合2019-2020年的经典顶会论文，针对深度学习时代下深度神经网络的鲁棒性问题展开讨论。
对抗环境下的鲁棒机器学习-郝靖伟原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2021/01/21/%e5%af%b9%e6%8a%97%e7%8e%af%e5%a2%83%e4%b8%8b%e7%9a%84%e9%b2%81%e6%a3%92%e6%9c%ba%e5%99%a8%e5%ad%a6%e4%b9%a0/
社交机器人模仿人类在Twitter等社交平台上的行为。数以百万计的机器人通常基于平台API，通过自动化程序控制，通过模仿真实用户以实现恶意目标，检测社交机器人对于净化网络空间环境具…
本次报告围绕大模型越狱攻击的检测技术展开，首先阐述了越狱检测的定义，然后介绍了常见的越狱攻击以及检测技术的研究现状。接着详细介绍了GradSafe和JailGuard两种主流方法，…
本次报告围绕动态图神经网络的最新研究进展展开，重点探讨其在处理时序图数据中的关键技术与应用。报告首先介绍了动态图的结构特性与建模挑战，随后系统分析了主流动态图神经网络架构的设计思想…
具有大量参数的深度神经网络是非常强大的机器学习系统。然而，在这样复杂的网络中，过拟合的问题难以解决。复杂的网络结构和缓慢的运行速度导致我们很难在测试时通过组合许多不同大型神经网络的…
物联网技术和人工智能的快速发展，含时间、空间特性的数据指数增长。如何进行多源异构时空数据本身特性出发，和机器学习深度学习技术深入融合，实现数据实现知识发现和信息挖掘，服务于城市发展…
本次报告对联邦学习及其后门攻击方法展开介绍，阐述了联邦学习的发展脉络和三大主要框架，介绍了联邦学习安全性问题及后门攻击分类方法，重点讲解经典的集中式/分布式联邦后门攻击方法，启发思…
假设检验是数理统计学中根据一定假设条件由样本推断总体的一种方法，其基本思想是应用小概率原理。在假设检验中常见的P值是进行检验决策的依据之一，反映某一事件发生的可能性大小。比较常…
代码摘要（Code Summarization）是一项通过自动生成自然语言描述以解释目标代码的技术。其目标是帮助理解代码的功能和用途。通过本次学术报告对学习代码摘的学习，希望大家可…
在AI攻击复杂性和密集性不断提升的大背景下，ML-NIIDS面临巨大挑战，其中流量对抗样本严重威胁其安全稳定。本次报告从NIDS的迭代发展，聚焦到对抗性安全威胁，再引出主流流量对抗…
