Batch Normalization（BN）自从提出之后，因为效果特别好，很快被作为深度学习的标准工具应用在了各种场合。BN大法虽然好，但是也存在一些局限和问题，诸如当BatchSize太小时效果不佳、对RNN等动态网络无法有效应用BN等。针对BN的问题，最近两年又陆续有基于BN思想的很多改进Normalization模型被提出。BN是深度学习进展中里程碑式的工作之一，无论是希望深入了解深度学习，还是在实践中解决实际问题，BN及一系列改进Normalization工作都是绕不开的重要环节。
Normalization-苏霞-v1.2-2019.10.20原创文章，作者：admin，如若转载，请注明出处：https://www.isclab.org.cn/2019/10/29/%e6%b7%b1%e5%ba%a6%e5%ad%a6%e4%b9%a0%e4%b8%ad%e7%9a%84normalization/
胶囊(向量神经)网络是针对CNN的缺陷提出的一种新的方法，主要实现了两点改进：1.将CNN的输出结果由标量（scalar）替换成了向…
本报告围绕大模型驱动的软件漏洞PoC自动生成展开，介绍漏洞触发、污点分析与动态验证等基础，并重点解析PoCGen与PoCEvolve两种方法。报告强调结合LLM、程序分析和执行反馈…
CVE年度统计结果表明，2018年披露的漏洞数量超过16500，创历史新高。漏洞的数量和复杂程度与日俱增，导致传统二进制漏洞自动化挖掘技术的成本也在不断升高。为迎接这些挑战，研究人…
图半监督学习是半监督学习中的一种，基于聚类假设和流形假设，利用少量的有标记样本和大量的未标记样本，提高训练得…
多标签学习的研究对于多义性对象的学习建模具有十分重要的意义，现已逐渐成为机器学习界一个新的研究热点。本次报告…
通过模型反演攻击方法研究，验证了模型训练数据面临泄露风险的问题，并希望以此促进对应防御手段的发展。本次学术报告介绍了模型反演攻击方法的相关知识，并聚焦于两个经典的白盒和黑盒攻击方法…
多标签文本分类是对文本信息进行组织、利用和检索的有效手段，能够提高数据处理效率，具有重要的实际价值。平面多标签文本分类是多标签分类下的子任务，标记每个给定文本与最相关的多个标签。本…
大语言模型生成文本规模持续扩大，释义改写、词语替换和字符扰动等对抗攻击削弱了检测可靠性。本次学术报告聚焦机生文本检测攻防对抗，系统介绍基于释义逆变换与动态对抗训练的鲁棒防御方法，分…
聚焦大模型生成中“幻觉”问题的原理、检测方法及其创造力价值。内容涵盖AI幻觉的定义与分类、典型案例、LLM-Check与Verify-and-Edit两种前沿算法的原理与实验评估，…
本文介绍两种隧道流量识别方法：DecETT方法构建不同的损失解耦隧道流协议特征和应用语义特征，实现AF检测；Graphtunnel方法构建DNS递归解析图进行DNS隧道流量监测。未…
