近年来深度学习技术不断突破，极大促进了人工智能行业的发展，但人工智能模型本身易受到对抗攻击从而引起严重后果。对原始样本有针对性地加入微小扰动，该扰动不易被人眼所察觉，但会导致人工智能模型识别错误，这种攻击被称为“对抗攻击“。本次报告首先介绍了深度神经网络中对抗样本的基本概念，分析经典的对抗样本攻击方法，接着介绍了对抗攻击的防御思路，并讲解了两篇领域内经典的防御论文，为之后深度神经网络对抗样本防御的研究提供了方向。
深度神经网络对抗样本防御方法-王琛原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2021/01/04/%e6%b7%b1%e5%ba%a6%e7%a5%9e%e7%bb%8f%e7%bd%91%e7%bb%9c%e5%af%b9%e6%8a%97%e6%a0%b7%e6%9c%ac%e9%98%b2%e5%be%a1%e6%96%b9%e6%b3%95/
在很多场景下，收集大量的有标签的数据是非常昂贵、困难、甚至不可能。因此在特定领域、小语种等缺乏标注资源的情况下，NER 任务往往得不到有效解决。为了解决少量标注数据的命名实体识别，…
本报告介绍了深度神经网络模型窃取检测的三种方法，从算法思想，实验结果，算法分析三个角度对已有算法进行贯穿式总结，阐述了模型窃取检测领域的难点，提升对模型安全领域问题的认识
本次报告分享的主题是基于智能体的自动化漏洞重现方法，报告通过梳理漏洞重现领域的基本发展历程和基本概念，然后讲解两种不同类型的智能体系统构建方法，分别针对通用应用程序漏洞PoV生成和…
以深度学习为代表的人工智能技术正在悄然改变人们的生产生活方式，但深度学习模型的部署也带来了一定的安全隐患。对抗样本攻击能使深度学习模型系统进行误判，对各个人工智能应用领域造成了严重…
本报告围绕强化学习中的“信用分配”难题，系统梳理了延迟/稀疏奖励场景下如何精准识别关键动作的研究脉络， 介绍LaRe与VinePPO两项新工作 ，分别利用大模型先验与无偏采样提升奖…
聚焦IoRT/IIoT场景下联邦基础模型的安全评测与防御，概述联邦微调范式与隐蔽后门风险；重点介绍SecFFT频域一致性检测机制与长期意图建模相结合实现安全加权聚合，以及FL-ID…
本次学术报告介绍了集成学习和在线学习基本思想，对离线bagging（装袋）和离线boosting（提升）的基…
本次报告围绕动态图神经网络的最新研究进展展开，重点探讨其在处理时序图数据中的关键技术与应用。报告首先介绍了动态图的结构特性与建模挑战，随后系统分析了主流动态图神经网络架构的设计思想…
网络协议逆向技术是指根据网络流量数据包进行静态分析，推断其所属协议的字段信息、报文格式、交互模式等信息。针对互联网中存在的大量未知（私有）协议进行逆向分析，发现潜在安全漏洞，对维护…
