Batch Normalization（BN）自从提出之后，因为效果特别好，很快被作为深度学习的标准工具应用在了各种场合。BN大法虽然好，但是也存在一些局限和问题，诸如当BatchSize太小时效果不佳、对RNN等动态网络无法有效应用BN等。针对BN的问题，最近两年又陆续有基于BN思想的很多改进Normalization模型被提出。BN是深度学习进展中里程碑式的工作之一，无论是希望深入了解深度学习，还是在实践中解决实际问题，BN及一系列改进Normalization工作都是绕不开的重要环节。
Normalization-苏霞-v1.2-2019.10.20原创文章，作者：admin，如若转载，请注明出处：https://www.isclab.org.cn/2019/10/29/%e6%b7%b1%e5%ba%a6%e5%ad%a6%e4%b9%a0%e4%b8%ad%e7%9a%84normalization/
简单高效的漏洞检测方法一直是信息系统安全领域研究的热点，微软研究人员借助机器学习和深度神经网络开发出一种用于…
模型窃取防御技术能够促进深度神经网络的健康发展，推动数据交流与共享。本次报告从输入输出扰动的角度分析了模型窃取防御方法的框架，从数学角度给出了防御的基本原理以及优缺点，利用防御方法…
日志生成的系统溯源图能够记录实体的依赖关系，通过溯源图的后向跟踪和前向跟踪，可实现攻击的溯源。但是随着溯源深度的增加，上下游实体之间的依赖关系呈现指数级爆炸，无法有效溯源。本次学术…
本报告介绍了漏洞检测的基本方法以及基于漏洞代码的漏洞评估的概念和评估方法。针对一种漏洞检测方式和一种漏洞评估方式进行了深入讲解，并探讨了漏洞检测和评估领域的现状，提出了一些未来发展…
本次报告介绍了二进制函数相似性分析的发展历史和主要变革，讲解了二进制相似性分析的主要方法，重点介绍了结构特征、语义特征的概念及应用原理。
近年来，基于机器学习的算法在恶意流量检测领域中越来越流行，但此类算法通常使用浅层模型，在训练之前需要一组专家手工制作的特征来预处理数据。此类方法的主要问题是，在不同类型的场景下，手…
韩磊 2014/12/25
本次报告介绍了Python中数据读取和处理的优化方法，对比了csv、pkl、feather、json等数据存储格式的读写速度与空间占用，分析了各数据格式的具体应用场景，同时引入混合…
本报告主要介绍了关于面向操作系统的模糊测试方法，探讨了操作系统漏洞挖掘的挑战与常见漏洞类型，详细介绍了模糊测试中的基本概念、常用方法以及两种前沿的Linux内核模糊测试技术ACTO…
文本-图像生成模型在当今生活中有广泛应用，最新研究表明，这类多模态的生成模型也面临着安全风险，例如对抗样本攻击、成员推理攻击和后门攻击等。本次学术报告介绍了文本-图像生成模型最新的…
