随着大语言模型的快速发展与广泛应用，其安全问题日益凸显，后门攻击便是主要威胁之一。本次报告介绍了两种针对大模型微调阶段的后门攻击方法，它们分别通过确定目标生成条件和改变Token，提升攻击的隐蔽性与有效性。
大模型在微调阶段的后门攻击-满乐彤原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2025/11/24/%e5%a4%a7%e6%a8%a1%e5%9e%8b%e5%9c%a8%e5%be%ae%e8%b0%83%e9%98%b6%e6%ae%b5%e7%9a%84%e5%90%8e%e9%97%a8%e6%94%bb%e5%87%bb/
魏超2014.11.2
现在大多数方法都是直推式学习， 不能直接泛化到未知节点。这些方法是在一个固定的图上直接学习每个节点embedding，但是大多情况图是会演化的，当网络结构改变以及新节点的出现，直推…
Ajax技术是创建交互式网页应用的网页开发技术，无需重新加载整个网页的情况下，能够更新部分网页的技术。Ajax 的特点在于异步交互，动态更新 web 页面，因此它的适用范围是交…
多智能体系统安全是当前人工智能研究中的重要方向，与系统稳定性、信息可信性及防御能力密切相关，但现有研究多集中于单智能体输入输出过滤或局部安全策略，难以刻画复杂交互网络中的全局风险传…
本报告围绕多智能体系统的传染性越狱安全风险展开，重点关注如何通过攻击单个智能体，利用多智能体间的通信、记忆检索与协作机制，将越狱效应在系统中指数级扩散。报告从多智能体架构、攻击面、…
自DNN诞生起，人们就开始尝试对其解释。若要对DNN进行定量、严谨的解释，数学层面的理论构建是必要的。本次报告介绍了基于博弈论Shapley Value构建的DNN可解释性理论体系…
本报告围绕强化学习中的“信用分配”难题，系统梳理了延迟/稀疏奖励场景下如何精准识别关键动作的研究脉络， 介绍LaRe与VinePPO两项新工作 ，分别利用大模型先验与无偏采样提升奖…
深度学习模型具有高度非线性和特征空间抽象等特性，内部决策逻辑难以解释，导致其实际应用严重受限。本次报告从深度神经网络可解释性的基本概念出发，对常见的解释方法进行简介，并介绍了一篇将…
LSTM，全称为长短期记忆网络（Long Short-Term Memory networks），是一种深度神经网络，同时也是一种特殊的循环神经网络（RNN）。通过在RNN的网…
