人工智能系统面临着多种安全威胁，其中对抗样本攻击被广泛应用于诸如计算机视觉、自然语言处理、音频处理以及恶意软件检测等多个领域。本文介绍了常见的对抗样本检测方法和原理。特别的，简单分析了两种基于网络一致性的对抗样本检测方法，并对对抗样本检测技术在网络安全领域的未来发展做了展望。随着攻击手法越来越多样化，攻击算法越来越高效，更加稳健、通用的防御方法是未来的研究热点。
基于网络一致性的对抗样本检测-尹培宇原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2020/12/20/%e5%9f%ba%e4%ba%8e%e7%bd%91%e7%bb%9c%e4%b8%80%e8%87%b4%e6%80%a7%e7%9a%84%e5%af%b9%e6%8a%97%e6%a0%b7%e6%9c%ac%e6%a3%80%e6%b5%8b/
网络协议逆向技术是指根据网络流量数据包进行静态分析，推断其所属协议的字段信息、报文格式、交互模式等信息。针对互联网中存在的大量未知（私有）协议进行逆向分析，发现潜在安全漏洞，对维护…
多视图聚类技术旨在利用不同视图之间信息的互补性和一致性增强模型的鲁棒性，提高聚类准确率。本次报告首先讲述多视图聚类的基本概念，然后结合两篇算法对完全多视图聚类和不完全多视图聚类方法…
真实的网络结构是高度非线性和复杂的，现有的浅层模型的网络嵌入方法都无法很好地表示更高级的非线性的网络结构。因…
人工智能模型安全是人工智能应用落地需要考量的重要问题，后门攻击威胁是人工智能模型安全的重要议题。本次学术报告以深度神经网络为后门攻击的对象，从深度神经网络训练的内部机理出发，通过了…
本报告介绍了跨语言过程调用的基本概念，展示了基于socket、http通信和rpc框架等三种方法的网络通信式过程调用的原理，梳理了基于ctypes和pybind11等两种方法的链接…
源代码补丁正确性测试是自动程序修复（Automated Program Repair, APR）流程的最后一个环节，旨在验证APR所生成的补丁是否真正解决了目标缺陷且未引入新的问题…
多视角即从各种不同的角度观察同一事物 ，在深度学习中即引入一个函数去模型化特定的视角，并且利用相同输入的冗余视角去联合优化所有函数，达到更好的模型效果。多视角学习可应用于大多数数据…
人工智能技术在决策系统等领域发挥了重要作用。用于模型训练的数据集中含有显示或者隐式的敏感属性，模型往往会利用敏感属性的特征做出决策，导致人工智能模型在公平性方面出现偏差，产生严重的…
深度学习（DL）在图像分类、语音识别等领域达到或超过了人类水平的性能，且被广泛应用于安全关键领域中（自动驾驶、恶意软件检测等）。然而一些原因（如训练数据偏差、模型过拟合或欠拟合），…
