主要探讨大语言模型的越狱攻击，阐述其研究背景、意义，历史与现状。而后涉及 EnDec和 ActorAttack 算法讲解，包含算法简介，以及算法的具体流程，通过实验对比展示其性能，总结了各自算法的特点、贡献与不足，展望未来发展方向。
大语言模型越狱攻击-贺晨阳-2024.12.1原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2024/12/19/%e5%a4%a7%e8%af%ad%e8%a8%80%e6%a8%a1%e5%9e%8b%e7%9a%84%e8%b6%8a%e7%8b%b1%e6%94%bb%e5%87%bb/
文本生成技术是自然语言处理中一个重要的研究领域，具有广阔的应用前景。传统文本生成的Seq2Seq框架不能有效地利用原始语料中的语义信息，而Graph2Seq模型可以丰富文本的语义知…
时序知识图谱推理根据历史时序知识图谱中已知事实，预测查询中缺失的实体或关系，避免知识图谱不完整性对知识驱动系统造成的影响。本次学术报告首先讲解了时序知识图谱推理基本概念，然后详细介…
ChatGPT问世以来，LLM百花齐放，对我们的生活产生了巨大的影响。然而LLM生成的内容存在信息泄露、无中生有等诸多隐患。通过强化学习技术我们可以将生成内容与人类偏好对齐，控制L…
注意力机制应用在encoder-decoder模型中，可以使Decoder根据时刻的不同，让每一时刻的输入都…
在AI攻击复杂性和密集性不断提升的大背景下，ML-NIIDS面临巨大挑战，其中流量对抗样本严重威胁其安全稳定。本次报告从NIDS的迭代发展，聚焦到对抗性安全威胁，再引出主流流量对抗…
程序崩溃的根本原因分析技术旨在通过分析崩溃时的输入数据，自动推断并定位导致崩溃的根本原因所在的位置，辅助开发人员快速修复软件缺陷。本次报告介绍了2个利用谓词进行程序崩溃的根本原因分…
本报告围绕Linux内核漏洞环境自动生成展开，针对漏洞数据库版本声明不准确、内核配置依赖复杂等复现难题，系统介绍了自动化环境构建方法KernJC。首先梳理研究背景与相关工作，继而解…
模型窃取防御技术能够促进深度神经网络的健康发展，推动数据交流与共享。本次报告从输入输出扰动的角度分析了模型窃取防御方法的框架，从数学角度给出了防御的基本原理以及优缺点，利用防御方法…
本文介绍两种隧道流量识别方法：DecETT方法构建不同的损失解耦隧道流协议特征和应用语义特征，实现AF检测；Graphtunnel方法构建DNS递归解析图进行DNS隧道流量监测。未…
大型复杂软件系统的高频率开发迭代，导致潜在缺陷数量增加，影响工业控制、交通管理等关键领域正常运转。缺陷修复指生成软件缺陷的修复代码，降低人工成本。研究自动化缺陷修复，能够及时修复软…
