您现在所在的位置:首页 >> 科学研究 >> 共享资源 >> 学术报告 >>
发布日期:2018年5月21日
学术报告-梯度消失和梯度爆炸的原因及解决方案

      在训练层数较多的神经网络的过程中,使用基于反向传播的梯度优化算法来优化参数有可能会遇到梯度消失或梯度爆炸的问题。本次报告从公式推导角度剖析深度学习中发生梯度消失和爆炸的原因,并介绍相应的七种解决方案。

附件-梯度消失和梯度爆炸的原因及解决方案.pdf