本次报告围绕大模型越狱攻击的检测技术展开，首先阐述了越狱检测的定义，然后介绍了常见的越狱攻击以及检测技术的研究现状。接着详细介绍了GradSafe和JailGuard两种主流方法，包括各自的算法设计、优化目标及实验效果，并总结了当前主流方法存在的问题，最后展望了未来越狱攻击检测技术发展的可能方向。
大模型越狱攻击的检测技术-贺晨阳原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2025/05/08/%e5%a4%a7%e6%a8%a1%e5%9e%8b%e8%b6%8a%e7%8b%b1%e6%94%bb%e5%87%bb%e7%9a%84%e6%a3%80%e6%b5%8b%e6%8a%80%e6%9c%af/
上一篇博文向大家介绍了，一个典型的特定音频识别系统的原理如下图所示： 特定音频识别系统原理图 上图中可以看到，离线…
图神经网络模型的可解释性对于建立用户与决策模型之间的信任关系至关重要，为了安全、可信地部署图神经网络模型，需要提高图神经网络模型的可解释性和透明性。本次报告带大家了解图神经网络的可…
计算机从按下电源按钮到操作系统启动完成的过程其实相当复杂，大多数普通用户可能并不了解其中的过程和玄机。本次报…
代码变更表示学习技术通常将代码变更进行结构化或序列化的中间表示，并将中间表示输入到表示学习模型以获取代码变更中更细粒度的特征，是众多软件工程任务的重要环节之一。本次报告介绍了2类任…
二进制程序函数相似性检测常用于代码抄袭检测，同源漏洞判别，恶意软件分析等领域，本次报告主要简要介绍了基于图匹配，图嵌入的检测方法，详细介绍了基于图神经网络的相似性检测方法，最后介绍…
近年，机器学习已经在计算机视觉、语音识别、语音合成以及自然语言处理（NLP）领域取得了突破性成果，在机器翻译和情感计算中展现的能力也颇令人期待。 其中机器学习方法可以分为生成方法（…
随着官方发布的漏洞数量呈现指数的增长趋势，针对漏洞检测技术的研究应运而生。漏洞种类的多样性以及检测方法的单一性导致漏洞检测结果呈现一定的局限性，随着自然语言处理技术的兴起和专家知识…
本次报告围绕基于GNN的加密流量分类技术展开，首先阐述了基于GNN的加密流量分类的基本概念、研究背景和研究意义，然后介绍了传统加密流量识别方法的特点与优劣势，并介绍了利用GNN进行…
本次报告围绕大模型赋能的渗透测试技术展开，首先阐述了渗透测试的基本概念、研究背景和研究意义，然后介绍了传统自动化渗透测试方法的特点与优劣势，并介绍了大模型赋能的渗透测试方法的研究现…
符号执行 （Symbolic Execution）是一种程序分析技术。其可以通过分析程序来得到让特…
