本报告介绍了单词级文本对抗攻击（Word-Level Attack）的背景和基本原理，展示了在OpenAttack和TextAttack两类开源工具上的测试样例，并分别讲述了基于义原替换和粒子群算法的攻击方法、基于掩码语言模型生成对抗样本方法，最后概括了两类算法的优势和不足，以及未来的发展方向。
单词级文本对抗攻击-程瑶原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2023/05/29/%e5%8d%95%e8%af%8d%e7%ba%a7%e6%96%87%e6%9c%ac%e5%af%b9%e6%8a%97%e6%94%bb%e5%87%bb/
模型水印攻击旨在干扰、破坏或绕过嵌入在模型中的水印信息。本次报告从模型水印攻击的概念入手，分析其原理和应用场景，利用模型水印攻击方法对模型水印算法分析与评估，为模型水印算法的改进提…
Android恶意软件泛滥，及时准确发现恶意软件有着重要的意义。本文介绍了一种基于异构信息网络的智能andr…
近年来，内部(insider)攻击，包括组织信息系统破坏、信息盗窃、电子欺诈等，具有很强的隐蔽性和破坏性，对个人、企业和国家安全构成了巨大的威胁。因此，我们应该更加关注内部威胁的研…
通过模型反演攻击方法研究，验证了模型训练数据面临泄露风险的问题，并希望以此促进对应防御手段的发展。本次学术报告介绍了模型反演攻击方法的相关知识，并聚焦于两个经典的白盒和黑盒攻击方法…
Android消息机制，主要讲解Android系统内部不同线程之间的信息交互，具体介绍了MessageQueue、Looper和Handler三者之间的交互和各自的原理。 附件-A…
人工智能的发展，驱动新赋能方式，2018年国家自然科学基金首次在信息科学部下增设“教育信息科学与技术”的专门代码（F0701），同时《地平线报告（2022高等教育版）》智能学习分析…
上一篇博文向大家介绍了，一个典型的特定音频识别系统的原理如下图所示： 特定音频识别系统原理图 上图中可以看到，离线…
近年来，随着互联网技术的高速发展和数据规模的快速增长、大数据的应用，多标签分类应用场景越来越多，如电子商务中的商品分类、网页标签、新闻标注、蛋白质功能分类、音乐分类、语义场景分类等…
在机器学习中获得标注数据是一个重要的部分。但是在一些专业领域，标注成本高,成本高，导致了获得标注数据困难。主…
主要探讨基于大语言模型的事件根因分析。阐述其研究背景、意义，涉及 RCACopilot 和 RCAgent 算法，包含数据收集、处理、输出，以及算法的具体流程等。通过实验对比展示其…
