对抗攻击是当下智能系统的新威胁，它使得很多在现实世界中应用的智能系统存在的安全漏洞极大地暴露了出来。近年来，学界提出了多种实现对抗攻击的方法，但是在不知道目标模型的防御细节的情况下，研究者很难根据经验选择到对当前模型最优的攻击算法。本次学术报告首先说明了对抗攻击和自动机器学习的基础知识，然后介绍了2021的顶会论文中提出的组合对抗攻击的自动化搜索方法，该方法将对抗攻击细节和参数作为一个黑箱，研究者只需要提供目标模型和数据，算法就会自动选择最优的攻击组合和参数，最后讨论组合对抗攻击自动化搜索在智能系统测试中的应用。
组合对抗攻击的自动化搜索方法-关迎丹原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2021/05/06/%e7%bb%84%e5%90%88%e5%af%b9%e6%8a%97%e6%94%bb%e5%87%bb%e7%9a%84%e8%87%aa%e5%8a%a8%e5%8c%96%e6%90%9c%e7%b4%a2%e6%96%b9%e6%b3%95-%e5%85%b3%e8%bf%8e%e4%b8%b9/
本报告介绍多人协作开发中Git的使用，通过讲述版本控制的概念和比对不同版本控制的区别，详细阐述Git底层工作原理及Git多人协作流程和核心用法，掌握Git相关基本知识及Git的核心…
程序崩溃的故障定位方法通过统计调试或符号执行，自动推断出程序崩溃的根本原因。本次报告介绍了1个基于符号执行的方法、1个结合统计调试和符号执行的方法，旨在提高故障定位的准确性与效率，…
1.Xen虚拟平台 Xen Hypervisor 位于操作系统与硬件之间，为其上层运行的操作系统内核提供虚拟化的硬件环境。Xen采用混合模式（Hybrid Model），因此在Xe…
这次报告讲解了网络表示学习的基本概念，对LINE算法的原理进行了深入讲解，并对网络表示学习算法的应用场景做了…
针对神经网络模型的缺陷测试使用了神经元覆盖率指标指导测试，这是一种从软件测试领域迁移的概念，指的是测试激活的神经元越多，测试越充分。但是近年来这种测试方法的有效性存疑，特别是测试生…
代码变更指对软件源代码的增加，删除，修改。软件项目的代码库可以视为一系列代码变更的有序组合，因此代码变更对理解代码库和分析软件演化过程十分重要。代码变更表示学习旨在将代码变更表示为…
本报告介绍了单词级文本对抗攻击（Word-Level Attack）的背景和基本原理，展示了在OpenAttack和TextAttack两类开源工具上的测试样例，并分别讲述了基于义…
本报告探讨了大语言模型智能体工具调用机制中的安全漏洞，重点分析了两种新型攻击方法。AMA攻击通过黑盒迭代优化恶意工具的元数据，使其在语义合法的前提下显著提升被智能体选择的概率，在多…
极端多标签文本分类旨在为每个文本分配大量可能的标签，处理标签数量巨大和数据稀疏性问题。该技术通过高效的特征选择、标签嵌入和深度学习模型，提高分类准确性和速度。极端多标签文本分类广泛…
