针对大语言模型展开调研，介绍大语言模型发展背景和研究现状，通过讲解LLaMA2模型的预训练和微调步骤，全面讲解大语言模型的训练过程，随后对越狱攻击大语言模型的方法进行研究，通过讲解MASTERKEY算法，介绍了自动化生成越狱提示的方法，最后对大语言模型的未来发展分点解析。
大模型调研-徐程柯原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2024/01/03/%e5%a4%a7%e8%af%ad%e8%a8%80%e6%a8%a1%e5%9e%8b%e8%b0%83%e7%a0%94/
研究提示词窃取攻击，揭示了提示词面临的泄露风险。本次学术报告介绍了提示词的应用价值和市场体量，讲述了关于提示词窃取攻击的最新方法，指明了现有的缺陷和未来发展方向。
智能化系统越来越多地部署在对安全性至关重要的领域中，包括无人驾驶汽车和恶意软件检测。在这些领域中，系统行为的正确性和可预测性对于极端案例输入是至关重要的。软件测试作为软件部署前的重…
本次报告主要从Transformer框架入手，介绍基于Transformer模型的时间序列分析方法。针对Transformer模型的位置嵌入、注意力机制、模型架构三个方向在时间序列…
本报告主要介绍了关于面向操作系统的模糊测试方法，探讨了操作系统漏洞挖掘的挑战与常见漏洞类型，详细介绍了模糊测试中的基本概念、常用方法以及两种前沿的Linux内核模糊测试技术ACTO…
元胞自动机(cellular automata，CA) 是一种时间、空间、状态都离散，空间相互作用和时间因果…
跨语言命名实体识别是用源语言的标记数据训练NER模型，并在目标语言的测试数据上对其进行评估。其利用具有丰富实体标签的高资源(源)语言(如英语)的知识来克服低(零)资源(目标)语言的…
近年，机器学习已经在计算机视觉、语音识别、语音合成以及自然语言处理（NLP）领域取得了突破性成果，在机器翻译和情感计算中展现的能力也颇令人期待。 其中机器学习方法可以分为生成方法（…
为了从网络上海量文本信息提取有价值信息，需要使用计算机处理文本数据，首要任务是将文本转换为计算机可以处理的向量化数据。单词是文本的最小单位，所以需要使用语言模型得到词向量表示成为文…
机器学习，尤其是神经网络，已广泛部署在行业环境中，模型通常被部署为预测服务。但是，具有对模型的查询访问权的对手可以窃取该模型以获得与远程目标模型基本一致的替代模型，这就是模型窃取攻…
本报告围绕“数据集不平衡程度评估”展开，聚焦于如何科学量化多类数据中的结构性不平衡问题，突破传统以样本比例为核心的评估局限。报告系统回顾了不平衡评估的发展脉络，分析了现有方法在面对…
