单词级文本对抗攻击

本报告介绍了单词级文本对抗攻击(Word-Level Attack)的背景和基本原理,展示了在OpenAttack和TextAttack两类开源工具上的测试样例,并分别讲述了基于义原替换和粒子群算法的攻击方法、基于掩码语言模型生成对抗样本方法,最后概括了两类算法的优势和不足,以及未来的发展方向。

单词级文本对抗攻击-程瑶

原创文章,作者:bfs,如若转载,请注明出处:https://www.isclab.org.cn/2023/05/29/%e5%8d%95%e8%af%8d%e7%ba%a7%e6%96%87%e6%9c%ac%e5%af%b9%e6%8a%97%e6%94%bb%e5%87%bb/

(0)
bfsbfs
上一篇 2023年5月22日 上午9:23
下一篇 2023年6月5日 下午12:29

相关推荐

  • 设计模式简介

          需求频繁变化是软件设计的基本特征,提升软件的可复用性、可维护性、可扩展性是软件设计的重要目标。以封装、继承和…

    2019年4月30日
    3.2K
  • 第三方库检测技术研究

    第三方库检测技术是一个自动识别应用程序或二进制程序中,所包含的第三方库的技术。对二进制文件或APP进行分析,主要用于安全性评估、软件合规性检查以及漏洞管理。通过本次学术报告对第三方…

    2025年7月15日
    3.5K
  • 文本分类硬标签黑盒模型的对抗样本生成方法研究

    研究文本分类硬标签黑盒模型的对抗样本生成方法,分析模型的潜在安全风险,为加强模型鲁棒性提供方向。本次学习报告讲解了文本分类模型对抗样本生成方法的总体状况,并介绍了关于文本分类硬标签…

    2024年11月27日
    3.3K
  • Web应用漏洞挖掘技术研究

    该报告系统探讨了基于黑盒扫描的Web应用漏洞挖掘技术。报告重点分析了两项前沿工作:YuraScanner利用大语言模型(LLM)理解网站功能并自主执行任务流,以探索传统扫描器难以触…

    2026年4月27日
    3.4K
  • 代码变更表示学习技术

    代码变更表示学习技术通常将代码变更进行结构化或序列化的中间表示,并将中间表示输入到表示学习模型以获取代码变更中更细粒度的特征,是众多软件工程任务的重要环节之一。本次报告介绍了2类任…

    2023年10月23日
    3.2K
  • 源代码变更表征

    本次报告介绍了源代码变更表征领域,其属于源代码表征领域的进一步研究工作,报告首先介绍领域研究目标、背景意义、发展脉络与基础框架,梳理显式与隐式信息交互两类代码变更表示学习方法;随后…

    2026年3月23日
    2.8K
  • 基于网络一致性的对抗样本检测

    人工智能系统面临着多种安全威胁,其中对抗样本攻击被广泛应用于诸如计算机视觉、自然语言处理、音频处理以及恶意软件检测等多个领域。本文介绍了常见的对抗样本检测方法和原理。特别的,简单分…

    2020年12月20日
    3.8K
  • 文本安全

    动态规划——最小编辑代价 序列标注模型 命名实体识别简介 文本表示方法(一)——空间向量模型 文本表示方法(二)——潜在语义分析 文本表示方法(三)——topic models i…

    学术报告 2014年10月18日
    3.1K
  • 多人协作利器Git

    详细介绍Git的原理、初级和进阶用法

    2020年9月4日
    4.1K