对抗样本会的存在严重威胁到机器学习模型的输出准确性。目前最常用的对抗样本生成方法是FGSM，其通过在沿着损失函数梯度方向添加一个细小的扰动，来“增大”损失，进而改变目标函数的输出。而我们通过FGSM基于目标模型生成对抗样本，并将其与原始样本组合去训练一个二分类器，最终将对抗样本从原始样本中“剔除”出去。
原创文章，作者：admin，如若转载，请注明出处：https://www.isclab.org.cn/2018/10/17/%e7%ae%80%e8%bf%b0%e5%af%b9%e6%8a%97%e6%a0%b7%e6%9c%ac%e6%a3%80%e6%b5%8b%e6%96%b9%e6%b3%95/
网络表示学习（Network Representation Learning），又名网络嵌入（Network Embedding）、图嵌入（Graph Embedding），旨在从…
本次报告围绕大模型赋能的自动化渗透测试技术展开，首先阐述了渗透测试的基本概念、研究背景和研究意义，然后介绍了大模型赋能的自动化渗透测试技术的研究现状和常见的agent框架。接着详细…
多智能体系统安全是当前人工智能研究中的重要方向，与系统稳定性、信息可信性及防御能力密切相关，但现有研究多集中于单智能体输入输出过滤或局部安全策略，难以刻画复杂交互网络中的全局风险传…
Android恶意软件泛滥，及时准确发现恶意软件有着重要的意义。本文介绍了一种基于异构信息网络的智能andr…
研究文本分类硬标签黑盒模型的对抗样本生成方法，分析模型的潜在安全风险，为加强模型鲁棒性提供方向。本次学习报告讲解了文本分类模型对抗样本生成方法的总体状况，并介绍了关于文本分类硬标签…
每天都有大量的数据生成，这导致人们越来越需要新的努力来应对大数据给多标签学习带来的巨大挑战。例如，极端多标签分类是一个活跃且快速发展的研究领域，它处理的分类任务具有极其大量的类别或…
随着机器学习的快速发展，图像分类、恶意软件识别等多个领域都通过建立机器学习模型解决相应的问题。但由于一些训练出的模型可能涉及训练数据的隐私信息与模型的商业价值，所以其安全性一直备受…
二进制函数相似性分析在1-Day漏洞检测、代码克隆检测、恶意软件检测、软件剽窃检测和自动软件修复等多个应用领域中具有广泛的应用。本次学术报告主要讲解了二进制函数相似性分析任务的研究…
对聚类算法有一点点入门的时候就知道，几乎所有的“平面型”聚类算法都有一个共同的弱点-难以确定类别数（聚类停止条件），而层次聚类在一定程度上解决了这个问题（它算一种比较古老比较通用的…
近年来深度学习技术不断突破，极大促进了人工智能行业的发展，但人工智能模型本身易受到对抗攻击从而引起严重后果。对原始样本有针对性地加入微小扰动，该扰动不易被人眼所察觉，但会导致人工智…
