在训练层数较多的神经网络的过程中，使用基于反向传播的梯度优化算法来优化参数有可能会遇到梯度消失或梯度爆炸的问题。本次报告从公式推导角度剖析深度学习中发生梯度消失和爆炸的原因，并介绍相应的七种解决方案。
原创文章，作者：admin，如若转载，请注明出处：https://www.isclab.org.cn/2018/05/21/%e6%a2%af%e5%ba%a6%e6%b6%88%e5%a4%b1%e5%92%8c%e6%a2%af%e5%ba%a6%e7%88%86%e7%82%b8%e7%9a%84%e5%8e%9f%e5%9b%a0%e5%8f%8a%e8%a7%a3%e5%86%b3%e6%96%b9%e6%a1%88/
本学术报告概述了人工智能生成内容检测的背景、挑战及两种核心算法——DetectGPT和DeTeCtive。重点阐述了基于概率曲率的零样本检测方法和多级对比学习框架，分析了其原理、优…
人工智能的发展，驱动新赋能方式，2018年国家自然科学基金首次在信息科学部下增设“教育信息科学与技术”的专门代码（F0701），同时《地平线报告（2022高等教育版）》智能学习分析…
本次学术报告旨在带领听众完成图匹配网络相关知识入门。首先介绍了图匹配网络的基本概念；随后以GMN和MGMN为例讲解了图匹配网络的两种经典范式，详细阐述了图匹配网络的基本原理和应用场…
本报告探讨了大语言模型智能体工具调用机制中的安全漏洞，重点分析了两种新型攻击方法。AMA攻击通过黑盒迭代优化恶意工具的元数据，使其在语义合法的前提下显著提升被智能体选择的概率，在多…
成员推理攻击（Membership Inference Attack）作为一种隐私攻击方法，其攻击对象是机器学习目标模型，攻击目标是推理一条或一批数据是否作为目标模型的训练集，以此…
二进制程序函数相似性检测常用于代码抄袭检测，同源漏洞判别，恶意软件分析等领域，本次报告主要简要介绍了基于图匹配，图嵌入的检测方法，详细介绍了基于图神经网络的相似性检测方法，最后介绍…
关键词提取技术是通过计算机程序从文档中自动提取重要性和主题性的词或短语的自动化技术，该技术在图书馆学、情报学和自然语言处理等领域应用广泛。目前关键词提取技术主要分为无监督和有监督这…
动态规划是用来解决多阶段决策过程最优化问题的一种方法，它的适用问题一般需要具备2个要素ー最优子结构与重叠子问…
表格数据生成能为深度学习扩充不平衡数据，同时也能避免隐私问题，研究如何生成高保真表格数据具有重要意义。本次报告分析了各个生成模型的优劣，以及GAN在表格数据领域的创新思路。
许多真实世界的网络不是静态的而是处于不断进化的状态，随着网络的不断进化，一方面新节点需要被表示，另一方面，原始节点的嵌入表示就变得陈旧，需要被不断更新。本次学术报告首先介绍了动态网…
