主要探讨大语言模型的越狱攻击，阐述其研究背景、意义，历史与现状。而后涉及 EnDec和 ActorAttack 算法讲解，包含算法简介，以及算法的具体流程，通过实验对比展示其性能，总结了各自算法的特点、贡献与不足，展望未来发展方向。
大语言模型越狱攻击-贺晨阳-2024.12.1原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2024/12/19/%e5%a4%a7%e8%af%ad%e8%a8%80%e6%a8%a1%e5%9e%8b%e7%9a%84%e8%b6%8a%e7%8b%b1%e6%94%bb%e5%87%bb/
研究提示词窃取攻击，揭示了提示词面临的泄露风险。本次学术报告介绍了提示词的应用价值和市场体量，讲述了关于提示词窃取攻击的最新方法，指明了现有的缺陷和未来发展方向。
卷积神经网络可以有效提取空间特征，但是它研究的对象还是限制在具有规则空间结构的欧几里得数据。本次学术报告重点…
本报告介绍了联邦学习领域后门攻击与防御的基本概念、联邦学习的训练流程，分别聚合规则和聚类规则的后门防御算法进行具体说明，阐述了联邦学习领域后门攻击与防御的发展方向及个人思考。
Linux系统是大多数人常见但又不熟悉的操作系统，其在软件安装于使用方法上与Windows有较大的差异。本次…
在大型项目开发时，可能会遇到多域名或多个ip之间使用ajax异步请求进行通信的情况，默认情况下，浏览器会阻断ajax对跨域请求的读取。本此报告介绍了开发中的跨域方案和跨域方案可能产…
为了从网络上海量文本信息提取有价值信息，需要使用计算机处理文本数据，首要任务是将文本转换为计算机可以处理的向量化数据。单词是文本的最小单位，所以需要使用语言模型得到词向量表示成为文…
人工智能系统在近年来取得丰硕的成果，其中神经网络在自动驾驶领域等图像处理方向应用较为广泛。但是神经网络存在安全隐患，容易受到攻击导致决策错误，比如对抗样本攻击和后门攻击。如何测试神…
联邦学习在保证数据安全和隐私的情况下解决了数据孤岛和数据碎片化问题，主要分为横向联邦学习、纵向联邦学习和联邦迁移学习。本次学术报告首先介绍联邦学习的历史现状、分类及应用场景，然后通…
推荐系统在现在的生活中随处可见，淘宝天猫的商品推荐，音乐软件的每日歌曲推荐等，协同过滤就是一种很受欢迎的推荐…
后门防御旨在使用神经元剪枝、知识蒸馏等手段消除模型中隐藏的后门，阻止攻击者使用触发器样本控制深度学习模型的输出。本次学术报告主要讲解了两种以对抗性扰动和后门攻击关系为基础的后门防御…
