研究文本分类硬标签黑盒模型的对抗样本生成方法，分析模型的潜在安全风险，为加强模型鲁棒性提供方向。本次学习报告讲解了文本分类模型对抗样本生成方法的总体状况，并介绍了关于文本分类硬标签黑盒模型对抗样本生成的最新方法，指明了现有的缺陷和未来发展方向。
文本分类硬标签黑盒模型的对抗样本生成方法研究-郑俊怡原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2024/11/27/%e6%96%87%e6%9c%ac%e5%88%86%e7%b1%bb%e7%a1%ac%e6%a0%87%e7%ad%be%e9%bb%91%e7%9b%92%e6%a8%a1%e5%9e%8b%e7%9a%84%e5%af%b9%e6%8a%97%e6%a0%b7%e6%9c%ac%e7%94%9f%e6%88%90%e6%96%b9%e6%b3%95%e7%a0%94%e7%a9%b6/
本次学术报告介绍了集成学习和在线学习基本思想，对离线bagging（装袋）和离线boosting（提升）的基…
协同训练是一种多视角学习方法，当数据充分时，在具有这种特征的数据集的任何一个视图上均可以利用一定的机器学习算法训练出一个强分类器。但…
多智能体系统安全是当前人工智能研究中的重要方向，与系统稳定性、信息可信性及防御能力密切相关，但现有研究多集中于单智能体输入输出过滤或局部安全策略，难以刻画复杂交互网络中的全局风险传…
本报告介绍了深度学习后门攻击及其检测的基本概念、类型划分等背景知识，对2种基于主动策略的后门攻击检测算法进行了具体说明，阐述了对于深度学习后门攻击检测的发展趋势和未来前景。
本次学术报告旨在带领听众完成图匹配网络相关知识入门。首先介绍了图匹配网络的基本概念；随后以GMN和MGMN为例讲解了图匹配网络的两种经典范式，详细阐述了图匹配网络的基本原理和应用场…
人工智能系统在近年来取得丰硕的成果，其中神经网络在自动驾驶领域等图像处理方向应用较为广泛。但是神经网络存在安全隐患，容易受到攻击导致决策错误，比如对抗样本攻击和后门攻击。如何测试神…
背景知识 序列标注模型被广泛应用于文本处理相关领域，例如分词、词性标注、命名实体识别等方面。现有的序列标注模型主要有HMM，MEMM 以及 CRF，通过对这几种自然语言处理中常用的…
随着软件程序日益复杂化、功能多样化，传统的通用模糊测试已经不能满足高效、快速的测试程序中特定高风险区域的崩溃问题。灰盒定向模糊测试应用其特殊的距离计算方法及种子排序方法，将模糊测试…
1.前言 本文通过阅读几位大牛的文章、演讲报告、exploit编写教程等技术文档不断总结修改而成，列举了当前Windows下常见漏洞利用缓解技术的基本原理及绕过方法，具体技术细节则…
随着大模型技术的兴起和发展，软件漏洞模糊测试方法在新技术的赋能下，可以实现更好的代码覆盖率和漏洞发现数量。本次学术报告针对结合大模型实现模糊测试用例生成的方法，介绍了Fuzz4Al…
