人工智能模型安全是人工智能应用落地需要考量的重要问题，后门攻击威胁是人工智能模型安全的重要议题。本次学术报告以深度神经网络为后门攻击的对象，从深度神经网络训练的内部机理出发，通过了解深度神经网络中已知后门攻击方法的流程，体会后门攻击在深度神经网络中对网络结构操作的原理，以此思考神经网络神经元在决策中的解释说明作用。
深度神经网络后门攻击-韩飞原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2021/08/15/%e6%b7%b1%e5%ba%a6%e7%a5%9e%e7%bb%8f%e7%bd%91%e7%bb%9c%e5%90%8e%e9%97%a8%e6%94%bb%e5%87%bb/
机器学习，尤其是神经网络，已广泛部署在行业环境中，模型通常被部署为预测服务。但是，具有对模型的查询访问权的对手可以窃取该模型以获得与远程目标模型基本一致的替代模型，这就是模型窃取攻…
本报告介绍了深度学习后门攻击及其检测的基本概念、类型划分等背景知识，对2种基于主动策略的后门攻击检测算法进行了具体说明，阐述了对于深度学习后门攻击检测的发展趋势和未来前景。
时序数据预测任务是时间序列处理领域中一项基本的任务，根据历史时间段数据序列预测未来一段时间的数据序列，广泛应用于天气预报、经济预测、医疗保健预测等领域。在复杂的现实世界中，时序数据…
表格数据生成能为深度学习扩充不平衡数据，同时也能避免隐私问题，研究如何生成高保真表格数据具有重要意义。本次报告分析了各个生成模型的优劣，以及GAN在表格数据领域的创新思路。
多智能体系统安全是当前人工智能研究中的重要方向，与系统稳定性、信息可信性及防御能力密切相关，但现有研究多集中于单智能体输入输出过滤或局部安全策略，难以刻画复杂交互网络中的全局风险传…
本报告围绕大模型驱动的软件漏洞PoC自动生成展开，介绍漏洞触发、污点分析与动态验证等基础，并重点解析PoCGen与PoCEvolve两种方法。报告强调结合LLM、程序分析和执行反馈…
本次报告聚焦长时程智能体的退化困境与自我改进：一类是”忘”，即上下文坍缩、知识被重写抹掉；一类是”急”，即证据不足就过早下结论。重点…
模型水印攻击旨在干扰、破坏或绕过嵌入在模型中的水印信息。本次报告从模型水印攻击的概念入手，分析其原理和应用场景，利用模型水印攻击方法对模型水印算法分析与评估，为模型水印算法的改进提…
本次学术报告简单介绍了深度学习的定义和过程，并给出了基于Keras实现手写数字识别的基本过程和实验结果，讨论了设置不同batch s…
模糊测试是一种通过提供非预期的输入并监视异常结果来发现软件故障的方法。Web应用对于软件提供商和终端用户都具有优越性，针对Web应用…
