本次报告围绕大模型越狱攻击的检测技术展开，首先阐述了越狱检测的定义，然后介绍了常见的越狱攻击以及检测技术的研究现状。接着详细介绍了GradSafe和JailGuard两种主流方法，包括各自的算法设计、优化目标及实验效果，并总结了当前主流方法存在的问题，最后展望了未来越狱攻击检测技术发展的可能方向。
大模型越狱攻击的检测技术-贺晨阳原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2025/05/08/%e5%a4%a7%e6%a8%a1%e5%9e%8b%e8%b6%8a%e7%8b%b1%e6%94%bb%e5%87%bb%e7%9a%84%e6%a3%80%e6%b5%8b%e6%8a%80%e6%9c%af/
对抗式多任务学习是针对普通的多任务学习模型在共享特征提取时，可能会被特定任务的特定特征所污染的问题所提出的，…
动态规划——最小编辑代价 序列标注模型 命名实体识别简介 文本表示方法（一）——空间向量模型 文本表示方法（二）——潜在语义分析 文本表示方法(三)——topic models i…
梯度提升决策树（GBDT）是集成学习中梯度提升方法（Gradient Boost）与决策树（Decision…
推荐系统在现在的生活中随处可见，淘宝天猫的商品推荐，音乐软件的每日歌曲推荐等，协同过滤就是一种很受欢迎的推荐…
FNN模型被广泛应用于自动驾驶、医疗诊断等安全关键的领域，因此需要测试模型的正确性，及时发现模型的缺陷并进行模型的修复与再训练。本次学术报告介绍了FNN模型正确性测试中遇到的两个关…
本次报告介绍了web项目开发方法，展示了在web开发过程中前后端分离与前后端不分离两种开发模式的基本流程以及优缺点，然后大致介绍了前端与后端各自常用的web框架，最后具体介绍了对外…
吕英 2015.1.28
目前针对二进制漏洞挖掘主要有三个研究方向：符号执行、污点分析和模糊测试。本次报告首先介绍了污点分析的三个重要…
语音情绪识别在如今的人机交互中具有重要作用，机器可以通过语音情绪识别对用户的情绪变化做出恰当反应，提供更具个性化的服务。深度学习作为机器学习中的一个重要分支，在语音情绪识别中也有广…
本报告介绍多人协作开发中Git的使用，通过讲述版本控制的概念和比对不同版本控制的区别，详细阐述Git底层工作原理及Git多人协作流程和核心用法，掌握Git相关基本知识及Git的核心…
