随着大语言模型的快速发展与广泛应用，其安全问题日益凸显，后门攻击便是主要威胁之一。本次报告介绍了两种针对大模型微调阶段的后门攻击方法，它们分别通过确定目标生成条件和改变Token，提升攻击的隐蔽性与有效性。
大模型在微调阶段的后门攻击-满乐彤原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2025/11/24/%e5%a4%a7%e6%a8%a1%e5%9e%8b%e5%9c%a8%e5%be%ae%e8%b0%83%e9%98%b6%e6%ae%b5%e7%9a%84%e5%90%8e%e9%97%a8%e6%94%bb%e5%87%bb/
随着大数据时代的来临和计算机算力的不断提升，机器学习模型迅速发展，成为计算机视觉、自然语言处理以及恶意软件检测等领域的研究热点。然而最近的研究发现，机器学习模型面临着严峻的安全威胁…
联邦学习在为解决数据交换时的信息隐私安全及数据孤岛问题时被提出，现广泛应用的为横向联邦与纵向联邦，本次学术报告介绍了联邦学习的基本思路，并基于横向联邦说明了两种经典的参数更新和合并…
本报告围绕智能体第三方组件安全展开，重点关注Tool和 Skill在增强Agent外部交互与任务执行能力的同时所带来的潜在安全风险。随着智能体对第三方组件的依赖不断加深，攻击者可能…
代码摘要（Code Summarization）是一项通过自动生成自然语言描述以解释目标代码的技术。其目标是帮助理解代码的功能和用途。通过本次学术报告对学习代码摘的学习，希望大家可…
最新的特定安全攻防场景可以细化为两个研究方向：匿名通信网络的网站指纹防御和僵尸网络的域名生成，以此来介绍对抗样本在防御任务和攻击任务中的应用。网站指纹攻击可以从网站中提取流量模式，…
本报告围绕RAG系统知识投毒攻击展开：PoisonedRAG首次揭示知识库投毒攻击面，提出”检索条件+生成条件”的启发式分解框架；Joint-GCG在此基础…
本报告聚焦大模型Agent提示注入攻击研究，重点解析CrossInject跨模态攻击与ToolHijacker工具劫持两大提示注入攻击框架，CrossInject首次实现“视觉+文…
智慧教育系统的不断发展促进了在线学习的用户数量爆炸式增长，对于学生认知水平诊断要求不断提高，群体认知诊断技术能够帮助平台挖掘学习群体的共性需求，增进教学效果。本次学术报告介绍了群体…
研究大模型隐私泄露攻击，揭示了大模型面临的隐私信息泄露风险。本次学术报告介绍了大模型的应用价值和市场体量，讲述了关于大模型隐私泄露攻击的最新方法，指明了现有的缺陷和未来发展方向。
围绕图像对抗样本攻防这一核心主题，介绍以 Block Shuffle & Rotation（BSR） 为代表的迁移攻击增强策略，以及以 Delta Data Augment…
