研究文本生成大模型的后门攻击，揭示了现有文本大模型的后门风险。本次学术报告详细介绍了现有文本生成模型的后门分类方法以及基准数据集，在文本大模型的多个下游任务实现了后门攻击，并总结了现有所使用的主流方法，最后提出了领域所面临的挑战和未来发展方向。
文本生成大模型后门攻击研究-赵怡清原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2025/03/24/%e6%96%87%e6%9c%ac%e7%94%9f%e6%88%90%e5%a4%a7%e6%a8%a1%e5%9e%8b%e5%90%8e%e9%97%a8%e6%94%bb%e5%87%bb%e7%a0%94%e7%a9%b6/
本次报告讲解了文本生成中的幻觉问题。首先从文本生成的基本原理出发引入到幻觉问题，着重介绍了幻觉的概念、产生原因以及解决方法。然后从添加外部信息和幻觉数据处理两个角度入手分别介绍了K…
本次学术报告介绍了集成学习和在线学习基本思想，对离线bagging（装袋）和离线boosting（提升）的基…
主动学习也叫做询问学习或最佳实验设计，它是机器学的分支，更人工智能。主要的假设是是否学习算法是可以去选择先要…
卷积神经网络可以有效提取空间特征，但是它研究的对象还是限制在具有规则空间结构的欧几里得数据。本次学术报告重点…
1.虚拟化技术的意义 虚拟化技术已有40多年的历史，它起源于对分时（Time Sharing）系统的需求。 1.1.为什么要使用虚拟化技术 很容易理解，由于不同任务耗…
推荐系统在现在的生活中随处可见，淘宝天猫的商品推荐，音乐软件的每日歌曲推荐等，协同过滤就是一种很受欢迎的推荐…
针对判别模型窃取及防御方法的研究日趋成熟，近期的研究表明，生成模型同样面临模型窃取威胁。本次学术报告重点介绍了关于生成模型的窃取方法的原理，以及其与判别模型窃取方法、评价指标的区别…
Android恶意软件对社会造成较大危害。为此，本文介绍了一种基于关联行为分析的Android恶意软件检测系统，该方法具有较强的行为表征能力，能有效的应对各种进化变异的恶意软件。
具有大量参数的深度神经网络是非常强大的机器学习系统。然而，在这样复杂的网络中，过拟合的问题难以解决。复杂的网络结构和缓慢的运行速度导致我们很难在测试时通过组合许多不同大型神经网络的…
