机生文本检测中的对抗攻击与鲁棒防御

大语言模型生成文本规模持续扩大,释义改写、词语替换和字符扰动等对抗攻击削弱了检测可靠性。本次学术报告聚焦机生文本检测攻防对抗,系统介绍基于释义逆变换与动态对抗训练的鲁棒防御方法,分析检测器失效机理与改进思路,为提升开放场景下检测稳定性、泛化性提供参考。

2026072013280134

原创文章,作者:bfs,如若转载,请注明出处:https://www.isclab.org.cn/2026/07/20/%e6%9c%ba%e7%94%9f%e6%96%87%e6%9c%ac%e6%a3%80%e6%b5%8b%e4%b8%ad%e7%9a%84%e5%af%b9%e6%8a%97%e6%94%bb%e5%87%bb%e4%b8%8e%e9%b2%81%e6%a3%92%e9%98%b2%e5%be%a1/

赞 (0)
bfsbfs
上一篇 2026年7月15日 上午8:00
下一篇 2026年7月21日

相关推荐

  • 媒体安全

    走近特定音频识别(之一)——让计算机分辨出“这是什么声音” 走进特定音频识别(之二)——计算机是靠什么来分辨声音种类的? 走进特定音频识别(之三)——检索 Vs 识别 走近特定音频…

    学术报告 2014年10月18日
    3.3K
  • HinDroid: An Intelligent Android Malware Detection System Based on Structured Heterogeneous Information Network

          Android恶意软件泛滥,及时准确发现恶意软件有着重要的意义。本文介绍了一种基于异构信息网络的智能andr…

    2018年11月18日
    3.4K
  • 时空数据挖掘

    物联网技术和人工智能的快速发展,含时间、空间特性的数据指数增长。如何进行多源异构时空数据本身特性出发,和机器学习深度学习技术深入融合,实现数据实现知识发现和信息挖掘,服务于城市发展…

    2021年5月18日
    3.7K
  • 基于行为语义分析的android恶意软件分析方法

    Android恶意软件对社会造成较大危害。为此,本文介绍了一种基于关联行为分析的Android恶意软件检测系统,该方法具有较强的行为表征能力,能有效的应对各种进化变异的恶意软件。

    2019年8月13日
    4.0K
  • 走近特定音频识别(之五)—— 音频预处理技术

    上一篇博文向大家介绍了,一个典型的特定音频识别系统的原理如下图所示:                             特定音频识别系统原理图 ​    上图中可以看到,离线…

    2014年10月28日
    4.8K
  • 大模型越狱攻击的检测技术

    本次报告围绕大模型越狱攻击的检测技术展开,首先阐述了越狱检测的定义,然后介绍了常见的越狱攻击以及检测技术的研究现状。接着详细介绍了GradSafe和JailGuard两种主流方法,…

    2025年5月8日
    4.7K
  • 差分隐私原理及应用

    大数据时代隐私泄露成为了一个严重的问题,大量的个人信息在网上传播。另一方面大数据时代对数据的可用性也有一定的要求。因此当前如何在保障用户的隐私的同时,提供一定的可用性成为一个关键问…

    2020年5月17日
    5.1K
  • Glibc内存管理1

          内存管理是指软件运行时对计算机内存资源的分配和使用的技术。其最主要的目的是如何高效,快速的分配,并且在适当的…

    2019年6月13日
    3.8K
  • 基于因果推理的对抗防御方法

    基于因果推理的对抗防御方法通过因果干预、特征解耦与不变性学习,识别并强化数据中的因果特征,抑制模型对伪相关与“捷径特征”的依赖,从而在机理上增强模型的泛化能力和抗干扰能力,使其在遭…

    2025年11月10日
    3.6K
  • 机器合成数据生成与评价方法

    本学术报告系统梳理了机器合成数据生成技术(GAN/VAE/扩散模型)的发展脉络,重点解读了两篇顶会论文——TabDiff(ICLR 2025,面向表格数据的混合型扩散模型)和Fai…

    2026年6月8日
    1.7K