本次报告围绕大模型越狱攻击的检测技术展开，首先阐述了越狱检测的定义，然后介绍了常见的越狱攻击以及检测技术的研究现状。接着详细介绍了GradSafe和JailGuard两种主流方法，包括各自的算法设计、优化目标及实验效果，并总结了当前主流方法存在的问题，最后展望了未来越狱攻击检测技术发展的可能方向。
大模型越狱攻击的检测技术-贺晨阳原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2025/05/08/%e5%a4%a7%e6%a8%a1%e5%9e%8b%e8%b6%8a%e7%8b%b1%e6%94%bb%e5%87%bb%e7%9a%84%e6%a3%80%e6%b5%8b%e6%8a%80%e6%9c%af/
本报告主要介绍了关于面向操作系统的模糊测试方法，探讨了操作系统漏洞挖掘的挑战与常见漏洞类型，详细介绍了模糊测试中的基本概念、常用方法以及两种前沿的Linux内核模糊测试技术ACTO…
1. 基本知识 由于Android系统使用的是Linux内核，在Linux上使用的很多攻防技术都能被应用到Android上，进程注入技术就是其中一种。（以下有关进程注入的描述大多针…
条件随机场（conditional random fields）是一种满足马尔可夫性质的条件概率图模型。它很好地解决了隐马尔可夫模型…
本报告讲述了即时软件缺陷预测领域的基本概念，通过详细介绍集成了专家特征和语义特征的变更级软件缺陷预测和缺陷定位模型，启发思考通过结合专家特征和代码行上下文语义特征，提高变更级软件缺…
APT攻击事件频发，严重危害着各国政府部门、组织、公司的网络信息安全。溯源图追踪日志之间的因果关系，保留了系统的丰富执行历史信息，便于检测长期且隐蔽的APT攻击。本次汇报首先讲解了…
法律文本可解释性研究是将可解释性研究方法应用到法律文本领域，旨在构建智慧法庭，辅助法官判案，实现法律检索和类案匹配。本次学术报告从案件罪名预测和相似案例匹配两个应用角度进行讲解，对…
研究提示词窃取攻击，揭示了提示词面临的泄露风险。本次学术报告介绍了提示词的应用价值和市场体量，讲述了关于提示词窃取攻击的最新方法，指明了现有的缺陷和未来发展方向。
随着多模态情绪识别应用不断发展，真实场景中的模态缺失问题对模型鲁棒性提出了挑战。本次学术报告聚焦缺失模态下的情绪变化识别，介绍了基于单模态专家融合与难度感知课程学习的代表性方法，为…
