优化问题是机器学习的核心和本质。在深度学习中，即使有完全相同的数据集和模型框架，使用的优化算法不同，所得到的训练结果也可能不同。深度学习常用的参数优化算法是梯度下降，各优化算法的发展经历了SGD->SGDM->NAG->AdaGrad->AdaDelta/RMSprop->Adam的过程，那么各个算法之间有什么联系和区别呢？本次学术报告将带大家一起梳理各优化算法的发展历程和特点，并提出应用建议。
原创文章，作者：admin，如若转载，请注明出处：https://www.isclab.org.cn/2018/01/22/%e6%b7%b1%e5%ba%a6%e5%ad%a6%e4%b9%a0%e4%bc%98%e5%8c%96%e7%ae%97%e6%b3%95%e6%a6%82%e8%bf%b0/
本次报告主要从Transformer框架入手，介绍基于Transformer模型的时间序列分析方法。针对Transformer模型的位置嵌入、注意力机制、模型架构三个方向在时间序列…
背景 熟悉模式识别的童鞋都很清楚，在模式识别领域内存在许多的学习算法和技术。面对纷繁的算法，我们必然会产生疑问：究竟哪一个算法才是“最好的”。值的强调的是每个算法都有相应的先验假设…
对抗攻击是当下智能系统的新威胁，它使得很多在现实世界中应用的智能系统存在的安全漏洞极大地暴露了出来。近年来，学界提出了多种实现对抗攻击的方法，但是在不知道目标模型的防御细节的情况下…
每天都有大量的数据生成，这导致人们越来越需要新的努力来应对大数据给多标签学习带来的巨大挑战。例如，极端多标签分类是一个活跃且快速发展的研究领域，它处理的分类任务具有极其大量的类别或…
1.环境感知型恶意软件使用的反检测方法及实例 2.部分高水平文献中的反检测算法原理 3.反检测技术的对抗策略
高斯混合模型（Gaussian mixture model，GMM）用于对样本的概率密度分布进行估计，而估计…
EM（Expectation-maximization）算法是机器学习十大算法之一。…
聚类学习作为机器学习中最为常用的算法，已经广泛的应用于许多领域。本文主要介绍聚类的一些基础知识，并且以概率聚类模型为例，并讲解一个聚类算法：基于t分布的熵惩罚最大期望算法，使大家对…
本报告介绍了模糊测试中的基本概念及网络应用程序漏洞挖掘发展历史和类型划分等背景知识，对2种基于覆盖引导的灰盒web模糊测试算法进行了具体说明，阐述了网络应用程序漏洞挖掘的发展趋势和…
本次报告介绍了Python中数据读取和处理的优化方法，对比了csv、pkl、feather、json等数据存储格式的读写速度与空间占用，分析了各数据格式的具体应用场景，同时引入混合…
