本报告介绍了单词级文本对抗攻击（Word-Level Attack）的背景和基本原理，展示了在OpenAttack和TextAttack两类开源工具上的测试样例，并分别讲述了基于义原替换和粒子群算法的攻击方法、基于掩码语言模型生成对抗样本方法，最后概括了两类算法的优势和不足，以及未来的发展方向。
单词级文本对抗攻击-程瑶原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2023/05/29/%e5%8d%95%e8%af%8d%e7%ba%a7%e6%96%87%e6%9c%ac%e5%af%b9%e6%8a%97%e6%94%bb%e5%87%bb/
可解释性对于建立用户与决策模型之间的信任关系至关重要，提高机器学习模型的可解释性和透明性是机器学习在现实任务中进一步发展和应用的关键。本次报告带大家了解机器学习常用的可解释方法的基…
每天都有大量的数据生成，这导致人们越来越需要新的努力来应对大数据给多标签学习带来的巨大挑战。例如，极端多标签分类是一个活跃且快速发展的研究领域，它处理的分类任务具有极其大量的类别或…
当深度学习以惊人的准确性执行各种各样任务的同时，在图像分类等领域的深度神经网络却容易受到对抗样本的攻击，从而输出错误的预测结果。本次学术报告首先说明了对抗攻防的主要方法分类和残差网…
本次报告从计算机的总体结构切入，介绍的了计算机系统的分层体系结构；对操作系统及其内核的做了详细说明，包括操作系统与操作系统内核的关系，以及操作系统内核的主要功能等内容；报告还分析了…
机器学习，尤其是神经网络，已广泛部署在行业环境中，模型通常被部署为预测服务。但是，具有对模型的查询访问权的对手可以窃取该模型以获得与远程目标模型基本一致的替代模型，这就是模型窃取攻…
本次学术报告主要讲解了多示例多标记学习(Multi-Instance Multi-Label learning)，主要对多示例多标记…
安全漏洞的数量和复杂程度与日俱增，导致漏洞挖掘的成本也在不断升高。而近年对深度学习的研究使得机器具有分析学习能力，如何将深度学习算法应用漏洞挖掘技术成为研究热点。本次报告首先介绍了…
研究深度半监督聚类方法，首先利用自编码器对高维数据降维处理，同时提取构建三种范围的约束信息：主动构建的成对约束、带标签的种子约束、簇间大小比例约束；最后融合三种约束信息指导编码器训…
本报告围绕RAG系统知识投毒攻击展开：PoisonedRAG首次揭示知识库投毒攻击面，提出”检索条件+生成条件”的启发式分解框架；Joint-GCG在此基础…
在机器学习中获得标注数据是一个重要的部分。但是在一些专业领域，标注成本高,成本高，导致了获得标注数据困难。主…
