本报告介绍了单词级文本对抗攻击（Word-Level Attack）的背景和基本原理，展示了在OpenAttack和TextAttack两类开源工具上的测试样例，并分别讲述了基于义原替换和粒子群算法的攻击方法、基于掩码语言模型生成对抗样本方法，最后概括了两类算法的优势和不足，以及未来的发展方向。
单词级文本对抗攻击-程瑶原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2023/05/29/%e5%8d%95%e8%af%8d%e7%ba%a7%e6%96%87%e6%9c%ac%e5%af%b9%e6%8a%97%e6%94%bb%e5%87%bb/
模型窃取防御技术能够促进深度神经网络的健康发展，推动数据交流与共享。本次报告从输入输出扰动的角度分析了模型窃取防御方法的框架，从数学角度给出了防御的基本原理以及优缺点，利用防御方法…
无人机广泛应用但传统模糊测试存在物理感知盲区且飞控输入高维，漏洞难挖掘。本报告介绍两种新方法：路径规划漏洞挖掘框架 DPFuzzer 及 PID 参数规范推断技术 RouthSea…
Cookie 是网站为辨别用户身份而储存在用户终端上的数据（通常经过加密），是绕开http无状态性的额外手段…
本次报告在程序自动修复场景评估智能体，首先以OpenClaw为例引出Agent，阐释智能体与程序自动修复的内涵、背景及SWE-bench、ACI等基础；随后重点介绍SWE-agen…
针对判别模型窃取及防御方法的研究日趋成熟，近期的研究表明，生成模型同样面临模型窃取威胁。本次学术报告重点介绍了关于生成模型的窃取方法的原理，以及其与判别模型窃取方法、评价指标的区别…
CVE年度统计结果表明，2018年披露的漏洞数量超过16500，创历史新高。漏洞的数量和复杂程度与日俱增，导致传统二进制漏洞自动化挖掘技术的成本也在不断升高。为迎接这些挑战，研究人…
符号执行 （Symbolic Execution）是一种程序分析技术。其可以通过分析程序来得到让特…
聚焦大模型生成中“幻觉”问题的原理、检测方法及其创造力价值。内容涵盖AI幻觉的定义与分类、典型案例、LLM-Check与Verify-and-Edit两种前沿算法的原理与实验评估，…
跨语言命名实体识别是用源语言的标记数据训练NER模型，并在目标语言的测试数据上对其进行评估。其利用具有丰富实体标签的高资源(源)语言(如英语)的知识来克服低(零)资源(目标)语言的…
研究深度半监督聚类方法，首先利用自编码器对高维数据降维处理，同时提取构建三种范围的约束信息：主动构建的成对约束、带标签的种子约束、簇间大小比例约束；最后融合三种约束信息指导编码器训…
