在训练层数较多的神经网络的过程中，使用基于反向传播的梯度优化算法来优化参数有可能会遇到梯度消失或梯度爆炸的问题。本次报告从公式推导角度剖析深度学习中发生梯度消失和爆炸的原因，并介绍相应的七种解决方案。
原创文章，作者：admin，如若转载，请注明出处：https://www.isclab.org.cn/2018/05/21/%e6%a2%af%e5%ba%a6%e6%b6%88%e5%a4%b1%e5%92%8c%e6%a2%af%e5%ba%a6%e7%88%86%e7%82%b8%e7%9a%84%e5%8e%9f%e5%9b%a0%e5%8f%8a%e8%a7%a3%e5%86%b3%e6%96%b9%e6%a1%88/
随着计算机技术的发展，漏洞威胁问题已然日渐严峻，高效、准确的漏洞检测技术对于漏洞的发现和防护都至关重要，但目前常用的检测算法面临漏洞数据集少、信息不准确、构建成本高等问题，所以一个…
iForest （Isolation Forest）孤立森林 是一个基于Ensemble的快速异常检测方法，具有线性时间复杂度和高精…
1.环境感知型恶意软件使用的反检测方法及实例 2.部分高水平文献中的反检测算法原理 3.反检测技术的对抗策略
本次报告主要从Transformer框架入手，介绍基于Transformer模型的时间序列分析方法。针对Transformer模型的位置嵌入、注意力机制、模型架构三个方向在时间序列…
图半监督学习是半监督学习中的一种，基于聚类假设和流形假设，利用少量的有标记样本和大量的未标记样本，提高训练得…
随着机器学习的发展，机器学习已经广泛应用于入侵检测，但研究发现基于机器学习的检测技术存在安全隐患，极易遭受对抗样本的攻击，为了更好的评估入侵检测系统的鲁棒性，研究网络流量的对抗样本…
大数据时代的到来，同时也带来了隐私、敏感信息保护方面的棘手难题。数据脱敏措施层出不穷，K-Anonymity，L-Diversity，T-Closeness，以及相结合的微聚集算法…
成员推理攻击（Membership Inference Attack）作为一种隐私攻击方法，其攻击对象是机器学习目标模型，攻击目标是推理一条或一批数据是否作为目标模型的训练集，以此…
本次报告围绕动态图神经网络的最新研究进展展开，重点探讨其在处理时序图数据中的关键技术与应用。报告首先介绍了动态图的结构特性与建模挑战，随后系统分析了主流动态图神经网络架构的设计思想…
本次报告介绍了超参数的概念和对模型的影响，解释了超参数与模型参数的区别，详细讲解了网格搜索、随机搜索、贝叶斯优化三种优化方法，分析其使用场景及优缺点，最后列举了三种实用的开源调优工…
