本次报告围绕大模型越狱攻击的检测技术展开，首先阐述了越狱检测的定义，然后介绍了常见的越狱攻击以及检测技术的研究现状。接着详细介绍了GradSafe和JailGuard两种主流方法，包括各自的算法设计、优化目标及实验效果，并总结了当前主流方法存在的问题，最后展望了未来越狱攻击检测技术发展的可能方向。
大模型越狱攻击的检测技术-贺晨阳原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2025/05/08/%e5%a4%a7%e6%a8%a1%e5%9e%8b%e8%b6%8a%e7%8b%b1%e6%94%bb%e5%87%bb%e7%9a%84%e6%a3%80%e6%b5%8b%e6%8a%80%e6%9c%af/
需求频繁变化是软件设计的基本特征，提升软件的可复用性、可维护性、可扩展性是软件设计的重要目标。以封装、继承和…
代码自动编辑任务通过应用频繁出现的编辑模式对现有代码进行修改，能够提升软件开发的效率。CODIT方法将代码编辑过程建模为树结构变换和标记生成两个阶段。MODIT方法输入整合需要编辑…
半监督学习(Semi-Supervised Learning，SSL)是模式识别和机器学习领域研究的重点问题，是监督学习与无监督学习相结合的一种学习方法。本次报告首先讲述了半监督学…
机器学习，尤其是神经网络，已广泛部署在行业环境中，模型通常被部署为预测服务。但是，具有对模型的查询访问权的对手可以窃取该模型以获得与远程目标模型基本一致的替代模型，这就是模型窃取攻…
本次报告先介绍了五种Web开发模式，讲解了各种开发模式的结构和优缺点，并结合实验室内部情况对合适的开发模式进行了推荐。之后简单介绍了Django、Flask、CherryPy这三个…
多智能体系统安全是当前人工智能研究中的重要方向，与系统稳定性、信息可信性及防御能力密切相关，但现有研究多集中于单智能体输入输出过滤或局部安全策略，难以刻画复杂交互网络中的全局风险传…
注意力（Attention）机制被广泛应用到基于深度学习的自然语言处理(NLP)各个任务中。随着注意力机制的…
认知诊断是研究学习者学习行为，分析挖掘基于这些行为的认知状态的方法。知识认知诊断的前沿方法旨在通过准确预测学习者的表现和深入分析其认知能力，推动个性化学习体验的优化。这一方法为教育…
本报告讲述了隐私计算技术体系的整体架构及主要理论，给出了迁移学习及领域自适应问题的基本概念，通过详细介绍隐私保护政策下最新的去中心化无监督领域自适应论文以及基于隐私保护的模型联邦个…
目前针对二进制漏洞挖掘主要有三个研究方向：符号执行、污点分析和模糊测试。本次报告首先介绍了污点分析的三个重要…
