人工智能模型安全是人工智能应用落地需要考量的重要问题，后门攻击威胁是人工智能模型安全的重要议题。本次学术报告以深度神经网络为后门攻击的对象，从深度神经网络训练的内部机理出发，通过了解深度神经网络中已知后门攻击方法的流程，体会后门攻击在深度神经网络中对网络结构操作的原理，以此思考神经网络神经元在决策中的解释说明作用。
深度神经网络后门攻击-韩飞原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2021/08/15/%e6%b7%b1%e5%ba%a6%e7%a5%9e%e7%bb%8f%e7%bd%91%e7%bb%9c%e5%90%8e%e9%97%a8%e6%94%bb%e5%87%bb/
本次报告首先讲解了虚拟化技术的原理和使用方式，结合多种虚拟化方式的特点，介绍了实验室内部的选择和使用情况。之后以实验室常用的系统为例，讲解了使用远程服务器搭建深度学习开发环境的过程…
本学术报告系统梳理了机器合成数据生成技术（GAN/VAE/扩散模型）的发展脉络，重点解读了两篇顶会论文——TabDiff（ICLR 2025，面向表格数据的混合型扩散模型）和Fai…
图神经网络模型的可解释性对于建立用户与决策模型之间的信任关系至关重要，为了安全、可信地部署图神经网络模型，需要提高图神经网络模型的可解释性和透明性。本次报告为大家介绍图神经网络反事…
这次报告讲解了网络表示学习的基本概念，对LINE算法的原理进行了深入讲解，并对网络表示学习算法的应用场景做了…
FNN模型被广泛应用于自动驾驶、医疗诊断等安全关键的领域，因此需要测试模型的正确性，及时发现模型的缺陷并进行模型的修复与再训练。本次学术报告介绍了FNN模型正确性测试中遇到的两个关…
爬虫技术是获取数据的利器，它避免了繁琐又低效的人工数据搜集。爬虫带来获取数据极大便利的同时，也催生了反爬技术的发展。学术报告以反爬措施以及对抗反爬的手段作为议题，详细介绍了5类反爬…
本报告介绍了强化学习领域基本概念，详细介绍了Q-Learning算法和Deep Q Learning算法的原理，简要梳理了了两种算法的发展脉络，以经典案例windy grid-wo…
韩磊 2014/12/25
注意力机制应用在encoder-decoder模型中，可以使Decoder根据时刻的不同，让每一时刻的输入都…
本学术报告围绕大模型微调中的后门攻击问题展开。内容涵盖：后门攻击的基本原理与主流微调方法；两种新型攻击技术的设计与危害分析；以及针对现有防御体系的不足与盲区，展望后门攻击的未来演进…
