人工智能模型安全是人工智能应用落地需要考量的重要问题，后门攻击威胁是人工智能模型安全的重要议题。本次学术报告以深度神经网络为后门攻击的对象，从深度神经网络训练的内部机理出发，通过了解深度神经网络中已知后门攻击方法的流程，体会后门攻击在深度神经网络中对网络结构操作的原理，以此思考神经网络神经元在决策中的解释说明作用。
深度神经网络后门攻击-韩飞原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2021/08/15/%e6%b7%b1%e5%ba%a6%e7%a5%9e%e7%bb%8f%e7%bd%91%e7%bb%9c%e5%90%8e%e9%97%a8%e6%94%bb%e5%87%bb/
聚焦联邦学习与联邦图学习场景下的后门攻击检测与防御，概述分布式隐私保护训练中的隐蔽后门风险、Non-IID数据异构挑战与现有防御方法局限；重点介绍FedID基于曼哈顿距离、欧氏距离…
机器学习是件很复杂的事情，在机器学习向更多领域扩展的时候，遇到了机器学习专家这一资源的限制。自动机器学习（A…
研究提示词窃取攻击，揭示了提示词面临的泄露风险。本次学术报告介绍了提示词的应用价值和市场体量，讲述了关于提示词窃取攻击的最新方法，指明了现有的缺陷和未来发展方向。
本报告围绕“源代码安全补丁存在性测试”展开，聚焦于如何自动识别开源软件中的安全补丁，解决安全补丁与普通补丁混杂、厂商静默发布、攻击窗口缩短等问题，介绍了一种结构感知的检测方法——R…
本次报告围绕动态图神经网络的最新研究进展展开，重点探讨其在处理时序图数据中的关键技术与应用。报告首先介绍了动态图的结构特性与建模挑战，随后系统分析了主流动态图神经网络架构的设计思想…
本文介绍两种预训练加密流量分类方法：基于BERT和包头信息的分类系统，利用包头字段生成语义句子；YaTC模型采用MFR矩阵和注意力机制，结合MAE进行预训练。未来研究需优化模型效率…
本报告围绕Linux内核漏洞环境自动生成展开，针对漏洞数据库版本声明不准确、内核配置依赖复杂等复现难题，系统介绍了自动化环境构建方法KernJC。首先梳理研究背景与相关工作，继而解…
图神经网络模型的可解释性对于建立用户与决策模型之间的信任关系至关重要，为了安全、可信地部署图神经网络模型，需要提高图神经网络模型的可解释性和透明性。本次报告带大家了解图神经网络的可…
本报告聚焦大模型Agent提示注入攻击研究，重点解析CrossInject跨模态攻击与ToolHijacker工具劫持两大提示注入攻击框架，CrossInject首次实现“视觉+文…
程序崩溃的故障定位方法通过统计调试或符号执行，自动推断出程序崩溃的根本原因。本次报告介绍了1个基于符号执行的方法、1个结合统计调试和符号执行的方法，旨在提高故障定位的准确性与效率，…
