聚焦大语言模型对抗攻击检测，针对提示注入与越狱攻击，提出HiPRED和TRACE两种隐藏状态检测方法。二者仅用良性样本校准，无需攻击标签和梯度，通过SVD子空间、正交残差能量及层间转移建模识别异常。实验AUC高、漏检率低，跨模型泛化稳定，支撑LLM安全部署。
Adversarial-Attack-Detection-Methods-for-Large-Language-Models-sana原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2026/10/12/adversarial-attack-detection-methods-for-large-language-models/
卷积神经网络可以有效提取空间特征，但是它研究的对象还是限制在具有规则空间结构的欧几里得数据。本次学术报告重点…
本次报告介绍了程序链接过程的基本概念，以及静态链接和动态链接中文件的结构和链接过程。基本概念包括程序构建（Build）过程、链接的历史和链接的作用等。链接的主要工作就是处理各个模块…
Batch Normalization（BN）自从提出之后，因为效果特别好，很快被作为深度学习的标准工具应用在了各种场合。BN大法虽然好，但是也存在一些局限和问题，诸如当Batch…
假设检验是数理统计学中根据一定假设条件由样本推断总体的一种方法，其基本思想是应用小概率原理。在假设检验中常见的P值是进行检验决策的依据之一，反映某一事件发生的可能性大小。比较常…
内存管理是指软件运行时对计算机内存资源的分配和使用的技术。其最主要的目的是如何高效，快速的分配，并且在适当的…
本报告围绕大模型驱动的软件漏洞PoC自动生成展开，介绍漏洞触发、污点分析与动态验证等基础，并重点解析PoCGen与PoCEvolve两种方法。报告强调结合LLM、程序分析和执行反馈…
聚焦IoRT/IIoT场景下联邦基础模型的安全评测与防御，概述联邦微调范式与隐蔽后门风险；重点介绍SecFFT频域一致性检测机制与长期意图建模相结合实现安全加权聚合，以及FL-ID…
图神经网络模型的可解释性对于建立用户与决策模型之间的信任关系至关重要，为了安全、可信地部署图神经网络模型，需要提高图神经网络模型的可解释性和透明性。本次报告为大家介绍图神经网络反事…
LDA主题模型可以将文档集中每篇文档的主题按照概率分布的形式给出。同时它是一种无监督学习算法，在训练时不需要…
模糊测试是一种通过提供非预期的输入并监视异常结果来发现软件故障的方法。Web应用对于软件提供商和终端用户都具有优越性，针对Web应用…
