针对神经网络模型的缺陷测试使用了神经元覆盖率指标指导测试，这是一种从软件测试领域迁移的概念，指的是测试激活的神经元越多，测试越充分。但是近年来这种测试方法的有效性存疑，特别是测试生成样本对模型健壮性提升的效果。本报告重点讲述了神经网络模型测试方法与模型健壮性的关系，并介绍了部分测试方法对模型健壮性的提升效果
神经网络模型测试方法与模型健壮性-侯钰斌原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2022/07/24/%e7%a5%9e%e7%bb%8f%e7%bd%91%e7%bb%9c%e6%a8%a1%e5%9e%8b%e6%b5%8b%e8%af%95%e6%96%b9%e6%b3%95%e4%b8%8e%e6%a8%a1%e5%9e%8b%e5%81%a5%e5%a3%ae%e6%80%a7/
传统的网络表示一般使用高维的稀疏向量，但是局限在于难以度量节点间的相似性，而一般的静态网络嵌入方法，忽略网络的动态演化过程，因此提出了基于动态网络的嵌入方法学习。本次将基于深度自编…
本报告主要介绍了关于面向操作系统的模糊测试方法，探讨了操作系统漏洞挖掘的挑战与常见漏洞类型，详细介绍了模糊测试中的基本概念、常用方法以及两种前沿的Linux内核模糊测试技术ACTO…
本次报告对表格数据的隐私保护方法展开介绍，介绍了目前常用的表格数据隐私保护方法，重点讲解生成对抗网络的基本原理及其和表格数据隐私保护间关系，详细阐述了经典的利用生成对抗网络生成新表…
对聚类算法有一点点入门的时候就知道，几乎所有的“平面型”聚类算法都有一个共同的弱点-难以确定类别数（聚类停止条件），而层次聚类在一定程度上解决了这个问题（它算一种比较古老比较通用的…
可解释性对于建立用户与决策模型之间的信任关系至关重要，提高机器学习模型的可解释性和透明性是机器学习在现实任务中进一步发展和应用的关键。本次报告带大家了解机器学习常用的可解释方法的基…
本报告介绍了APT攻击行为的基本概念，展示了APT攻击行为表示的方法原理，并分别讲述了面向恶意流量数据场景下的攻击行为检测技术和面向开源威胁情报场景下的攻击行为提取方法，最后简要梳…
机器学习是件很复杂的事情，在机器学习向更多领域扩展的时候，遇到了机器学习专家这一资源的限制。自动机器学习（A…
Batch Normalization（BN）自从提出之后，因为效果特别好，很快被作为深度学习的标准工具应用在了各种场合。BN大法虽然好，但是也存在一些局限和问题，诸如当Batch…
人类正在经历着由深度学习技术推动的人工智能浪潮，它为人类生产和生活带来了巨大的技术革新。然而，以往的机器学习理论大多没有考虑开放甚至对抗的系统运行环境，逐渐暴露出了许多安全和隐私问…
随着大语言模型的快速发展与广泛应用，其安全问题日益凸显，后门攻击便是主要威胁之一。本次报告介绍了两种针对大模型微调阶段的后门攻击方法，它们分别通过确定目标生成条件和改变Token，…
