优化问题是机器学习的核心和本质。在深度学习中，即使有完全相同的数据集和模型框架，使用的优化算法不同，所得到的训练结果也可能不同。深度学习常用的参数优化算法是梯度下降，各优化算法的发展经历了SGD->SGDM->NAG->AdaGrad->AdaDelta/RMSprop->Adam的过程，那么各个算法之间有什么联系和区别呢？本次学术报告将带大家一起梳理各优化算法的发展历程和特点，并提出应用建议。
原创文章，作者：admin，如若转载，请注明出处：https://www.isclab.org.cn/2018/01/22/%e6%b7%b1%e5%ba%a6%e5%ad%a6%e4%b9%a0%e4%bc%98%e5%8c%96%e7%ae%97%e6%b3%95%e6%a6%82%e8%bf%b0/
风格迁移是将多种类型风格转换成另一风格，是自然语言处理领域的一个重要问题，表征着文本生成和风格控制技术的发展情况，在大数据时代下的隐私保护等方面起着重要作用。本文主要介绍了文本风格…
这次报告讲解了网络表示学习的基本概念，对LINE算法的原理进行了深入讲解，并对网络表示学习算法的应用场景做了…
条件随机场（conditional random fields）是一种满足马尔可夫性质的条件概率图模型。它很好地解决了隐马尔可夫模型…
信息抽取是自然语言处理中的重要组成部分，特别是在当今信息化社会中，从海量数据中抽取出有用的信息显得格外有意义。实体关系抽取是信息抽取的基础任务。现实生活中存在着长尾分布的问题，这导…
LDA主题模型可以将文档集中每篇文档的主题按照概率分布的形式给出。同时它是一种无监督学习算法，在训练时不需要…
NER一直是NLP领域中的研究热点。近年来，深度学习方法在特征抽取深度和模型精度上表现优异，已经超过了传统方法，但无论是传统机器学习还是深度学习方法都依赖大量标注数据来训练模型。然…
联邦学习在保证数据安全和隐私的情况下解决了数据孤岛和数据碎片化问题，主要分为横向联邦学习、纵向联邦学习和联邦迁移学习。本次学术报告首先介绍联邦学习的历史现状、分类及应用场景，然后通…
在说明计算机如何进行特定音频识别这个问题之前，我们有必要对两个我们经常接触到的概念加以区分——“检索”和“识别”。 刚刚接触音频信号处理的朋友们常常会混淆这两个概念，本人刚…
在很多场景下，收集大量的有标签的数据是非常昂贵、困难、甚至不可能。因此在特定领域、小语种等缺乏标注资源的情况下，NER 任务往往得不到有效解决。为了解决少量标注数据的命名实体识别，…
1.前言 本文通过阅读几位大牛的文章、演讲报告、exploit编写教程等技术文档不断总结修改而成，列举了当前Windows下常见漏洞利用缓解技术的基本原理及绕过方法，具体技术细节则…
