对抗样本的存在表明现代神经网络是相当脆弱的。为解决这一问题，研究者相继提出了许多方法，其中使用对抗样本进行训练被认为是至今最有效的方法之一。
然而，经过对抗训练后神经网络对于正常样本的性能往往会下降，这一问题引起了学术界的广泛关注，这种准确度与鲁棒性之间互相妥协的本质原因仍未被找出。传统的基于经验风险最小化的神经网络为何不鲁棒？为何需要对抗训练才能使其鲁棒？为什么越鲁棒的模型，在干净测试集上的精度反而越低？甚至鲁棒性越强的模型，在干净样本上的准确率越差。带着这些问题，本次学术报告结合2019-2020年的经典顶会论文，针对深度学习时代下深度神经网络的鲁棒性问题展开讨论。
对抗环境下的鲁棒机器学习-郝靖伟原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2021/01/21/%e5%af%b9%e6%8a%97%e7%8e%af%e5%a2%83%e4%b8%8b%e7%9a%84%e9%b2%81%e6%a3%92%e6%9c%ba%e5%99%a8%e5%ad%a6%e4%b9%a0/
卷积神经网络可以有效提取空间特征，但是它研究的对象还是限制在具有规则空间结构的欧几里得数据。本次学术报告重点…
当下投入使用的恶意软件检测系统日益增多，但同时还带来了大量的安全问题，如何有效地提高恶意软件检测系统的鲁棒性变成当下重要的课题。在这里，从攻击者的角度入手，面向恶意软件检测系统，着…
深度学习软件库作为构建和训练深度学习模型的基础，对深度学习软件库进行检测、挖掘软件库的代码漏洞，是保障深度学习模型的可靠性的基础之一。本次报告介绍了2种基于API层的深度学习软件库…
内存管理是指软件运行时对计算机内存资源的分配和使用的技术。其最主要的目的是如何高效，快速的分配，并且在适当的…
XSS攻击是客户端脚本安全中的头号大敌，多次位列OWASP TOP 10榜首，严重威胁到web网络安全。XS…
本次报告首先讲解了虚拟化技术的原理和使用方式，结合多种虚拟化方式的特点，介绍了实验室内部的选择和使用情况。之后以实验室常用的系统为例，讲解了使用远程服务器搭建深度学习开发环境的过程…
FNN模型被广泛应用于自动驾驶、医疗诊断等安全关键的领域，因此需要测试模型的正确性，及时发现模型的缺陷并进行模型的修复与再训练。本次学术报告介绍了FNN模型正确性测试中遇到的两个关…
多标签学习的研究对于多义性对象的学习建模具有十分重要的意义，现已逐渐成为机器学习界一个新的研究热点。本次报告…
情绪变化识别在人机交互、情绪计算等对话智能领域中具有重要价值，显著增强了模型对动态语境的理解能力。本次报告将介绍对话与语音中的情绪建模任务，分析其研究背景与应用意义，并重点讲解两类…
本报告探讨了大语言模型智能体工具调用机制中的安全漏洞，重点分析了两种新型攻击方法。AMA攻击通过黑盒迭代优化恶意工具的元数据，使其在语义合法的前提下显著提升被智能体选择的概率，在多…
