人工智能系统在近年来取得丰硕的成果，其中神经网络在自动驾驶领域等图像处理方向应用较为广泛。但是神经网络存在安全隐患，容易受到攻击导致决策错误，比如对抗样本攻击和后门攻击。如何测试神经网络模型，提前发现模型潜在的缺陷成为亟待解决的问题。本报告重点讲述了人工智能系统的测试框架和测试指标，并介绍了应用覆盖测试思想对神经网络模型进行测试的方法。
神经网络模型的覆盖测试-侯钰斌原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2022/01/04/%e7%a5%9e%e7%bb%8f%e7%bd%91%e7%bb%9c%e6%a8%a1%e5%9e%8b%e7%9a%84%e8%a6%86%e7%9b%96%e6%b5%8b%e8%af%95/
本次报告分享的主题是基于智能体的自动化漏洞重现方法，报告通过梳理漏洞重现领域的基本发展历程和基本概念，然后讲解两种不同类型的智能体系统构建方法，分别针对通用应用程序漏洞PoV生成和…
背景知识 序列标注模型被广泛应用于文本处理相关领域，例如分词、词性标注、命名实体识别等方面。现有的序列标注模型主要有HMM，MEMM 以及 CRF，通过对这几种自然语言处理中常用的…
对抗样本的存在表明现代神经网络是相当脆弱的。为解决这一问题，研究者相继提出了许多方法，其中使用对抗样本进行训练被认为是至今最有效的方法之一。 然而，经过对抗训练后神经网络对于正常样…
随着大模型技术的兴起和发展，软件漏洞模糊测试方法在新技术的赋能下，可以实现更好的代码覆盖率和漏洞发现数量。本次学术报告针对结合大模型实现模糊测试用例生成的方法，介绍了Fuzz4Al…
Bias-Variance trade-off 启发式参数优化算法举例 参数寻优：梯度下降/牛顿下降法 追根溯源 频繁项集算法分析 并查集算法及其在约束传递中的应用 Floyd解决…
本次报告主要讲解了主题排序算法，通过对pagerank算法以及topic sensitive pagerank算法的原理介绍，引出了…
网络嵌入（Network Embedding）是针对网络中节点进行特征学习的一项新兴的研究任务，它旨在将网络中的节点表示成低维、实值、稠密的向量形式，使得得到的向量形式可以在向量空…
本次报告聚焦大模型支持下的程序崩溃故障定位方法，介绍了AutoFL与FlexFL两个代表性算法，重点讲解了函数交互在大模型中的创新应用，并比较开源与闭源模型在定位精度与效率上的表现…
对聚类算法有一点点入门的时候就知道，几乎所有的“平面型”聚类算法都有一个共同的弱点-难以确定类别数（聚类停止条件），而层次聚类在一定程度上解决了这个问题（它算一种比较古老比较通用的…
