以深度学习为代表的人工智能技术正在悄然改变人们的生产生活方式，但深度学习模型的部署也带来了一定的安全隐患。对抗样本攻击能使深度学习模型系统进行误判，对各个人工智能应用领域造成了严重的安全威胁。本文从人工智能应用的特定安全领域出发，如入侵检测领域和恶意软件检测领域，介绍了对抗样本攻击的生成原因，安全领域中对抗样本与图像领域的区别以及安全领域中的对抗样本防御方法，并对当前主流的防御方法进行了总结归纳和优劣分析，对深刻理解模型内在脆弱性、全面保障智能系统安全性、广泛部署人工智能应用具有重要意义。
特定安全领域中的对抗样本防御方法-王琛原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2021/08/31/%e7%89%b9%e5%ae%9a%e5%ae%89%e5%85%a8%e9%a2%86%e5%9f%9f%e4%b8%ad%e7%9a%84%e5%af%b9%e6%8a%97%e6%a0%b7%e6%9c%ac%e9%98%b2%e5%be%a1%e6%96%b9%e6%b3%95/
NER一直是NLP领域中的研究热点。近年来，深度学习方法在特征抽取深度和模型精度上表现优异，已经超过了传统方法，但无论是传统机器学习还是深度学习方法都依赖大量标注数据来训练模型。然…
本报告阐述了大模型在内核模糊测试中的应用，介绍了 KernelGPT 和 ECG 两种技术。KernelGPT 自动推断系统调用规范，显著提升漏洞发现效率；ECG 结合静态分析与大…
网络嵌入（Network Embedding）是针对网络中节点进行特征学习的一项新兴的研究任务，它旨在将网络中的节点表示成低维、实值、稠密的向量形式，使得得到的向量形式可以在向量空…
程序崩溃的故障定位方法通过统计调试或符号执行，自动推断出程序崩溃的根本原因。本次报告介绍了1个基于符号执行的方法、1个结合统计调试和符号执行的方法，旨在提高故障定位的准确性与效率，…
主要探讨基于大语言模型的事件根因分析。阐述其研究背景、意义，涉及 RCACopilot 和 RCAgent 算法，包含数据收集、处理、输出，以及算法的具体流程等。通过实验对比展示其…
本次报告对联邦学习及其后门攻击方法展开介绍，阐述了联邦学习的发展脉络和三大主要框架，介绍了联邦学习安全性问题及后门攻击分类方法，重点讲解经典的集中式/分布式联邦后门攻击方法，启发思…
本次学术报告简要介绍了人工智能系统面临的各种安全威胁，通过将对抗样本与后门攻击进行多方面比较，从而引入了机器学习模型后门攻击的原理和检测方法，以及后门攻击技术的应用领域。
需求频繁变化是软件设计的基本特征，提升软件的可复用性、可维护性、可扩展性是软件设计的重要目标。以封装、继承和…
大型复杂软件系统的高频率开发迭代，导致潜在缺陷数量增加，影响工业控制、交通管理等关键领域正常运转。缺陷修复指生成软件缺陷的修复代码，降低人工成本。研究自动化缺陷修复，能够及时修复软…
本次报告首先讲解了虚拟化技术的原理和使用方式，结合多种虚拟化方式的特点，介绍了实验室内部的选择和使用情况。之后以实验室常用的系统为例，讲解了使用远程服务器搭建深度学习开发环境的过程…
