人工智能系统面临着多种安全威胁，其中对抗样本攻击被广泛应用于诸如计算机视觉、自然语言处理、音频处理以及恶意软件检测等多个领域。本文介绍了常见的对抗样本检测方法和原理。特别的，简单分析了两种基于网络一致性的对抗样本检测方法，并对对抗样本检测技术在网络安全领域的未来发展做了展望。随着攻击手法越来越多样化，攻击算法越来越高效，更加稳健、通用的防御方法是未来的研究热点。
基于网络一致性的对抗样本检测-尹培宇原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2020/12/20/%e5%9f%ba%e4%ba%8e%e7%bd%91%e7%bb%9c%e4%b8%80%e8%87%b4%e6%80%a7%e7%9a%84%e5%af%b9%e6%8a%97%e6%a0%b7%e6%9c%ac%e6%a3%80%e6%b5%8b/
案件文本分析包含多个子任务，比如罪名、刑期、法条裁决、相似案例匹配、Q&A等。人工智能在法律中的应用，其目标是充分提升法治效能，将法律工作者从繁杂的工作中解放出来。本次学术…
1.问题描述 上一次说了最小编辑距离，这次在这上面加一点料，a1、a2和a3每次操作的代价不同了，加入了每个操作的代价，这下问题变为，针对字符串a和字符串b定义三种操作，a1、a2…
主要探讨基于大语言模型的事件根因分析。阐述其研究背景、意义，涉及 RCACopilot 和 RCAgent 算法，包含数据收集、处理、输出，以及算法的具体流程等。通过实验对比展示其…
本次学术报告面向基于深度学习的二进制软件漏洞挖掘，首先定义二进制缺陷检测子任务的基本概念和TIPO，其后介绍模糊测试、符号执行等动态缺陷检测方法，最终具体讲解了三种基于深度学习的二…
模型窃取防御技术能够促进深度神经网络的健康发展，推动数据交流与共享。本次报告从输入输出扰动的角度分析了模型窃取防御方法的框架，从数学角度给出了防御的基本原理以及优缺点，利用防御方法…
第三方库检测技术是一个自动识别应用程序或二进制程序中，所包含的第三方库的技术。对二进制文件或APP进行分析，主要用于安全性评估、软件合规性检查以及漏洞管理。通过本次学术报告对第三方…
背景知识 序列标注模型被广泛应用于文本处理相关领域，例如分词、词性标注、命名实体识别等方面。现有的序列标注模型主要有HMM，MEMM 以及 CRF，通过对这几种自然语言处理中常用的…
半监督学习(Semi-Supervised Learning，SSL)是模式识别和机器学习领域研究的重点问题，是监督学习与无监督学习相结合的一种学习方法。本次报告首先讲述了半监督学…
研究文本分类硬标签黑盒模型的对抗样本生成方法，分析模型的潜在安全风险，为加强模型鲁棒性提供方向。本次学习报告讲解了文本分类模型对抗样本生成方法的总体状况，并介绍了关于文本分类硬标签…
