本次学术报告简要介绍了人工智能系统面临的各种安全威胁，通过将对抗样本与后门攻击进行多方面比较，从而引入了机器学习模型后门攻击的原理和检测方法，以及后门攻击技术的应用领域。
机器学习模型后门攻击检测-尹培宇原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2021/08/22/%e6%9c%ba%e5%99%a8%e5%ad%a6%e4%b9%a0%e6%a8%a1%e5%9e%8b%e5%90%8e%e9%97%a8%e6%94%bb%e5%87%bb%e6%a3%80%e6%b5%8b/
深度学习在近十年取得了长足发展。由于其在复杂领域表现出优异的性能，逐渐被集成到软件体系中形成深度学习系统。这一方面推动了深度学习的发展，另一方面也对深度学习的安全性提出了巨大挑战：…
源代码补丁正确性测试是自动程序修复（Automated Program Repair, APR）流程的最后一个环节，旨在验证APR所生成的补丁是否真正解决了目标缺陷且未引入新的问题…
本报告介绍了单词级文本对抗攻击（Word-Level Attack）的背景和基本原理，展示了在OpenAttack和TextAttack两类开源工具上的测试样例，并分别讲述了基于义…
源代码表征是软件工程中的一个重要研究领域，主要关注如何有效地将源代码转化为可以支持各种软件工程任务（如代码搜索、克隆检测、代码自动生成等）的数学模型或数据结构。这些表征通常需要捕获…
数据不平衡问题是指一个类别的数据个数远远少于另一个类别的数据个数，通常这种问题被称为“数据不平衡”问题，在这…
本次报告对联邦学习及其后门攻击方法展开介绍，阐述了联邦学习的发展脉络和三大主要框架，介绍了联邦学习安全性问题及后门攻击分类方法，重点讲解经典的集中式/分布式联邦后门攻击方法，启发思…
该报告系统探讨了基于黑盒扫描的Web应用漏洞挖掘技术。报告重点分析了两项前沿工作：YuraScanner利用大语言模型（LLM）理解网站功能并自主执行任务流，以探索传统扫描器难以触…
传递闭包：在数学上的定义——在集合X上的二元关系R的传递闭包是包含R的X上的最小传递关系。其中定义域是数据集X，而运算关系是必须具有传递性，这里的最小传递关系指的是包含所有可达路径…
推荐系统在现在的生活中随处可见，淘宝天猫的商品推荐，音乐软件的每日歌曲推荐等，协同过滤就是一种很受欢迎的推荐…
人工智能系统在近年来取得丰硕的成果，其中神经网络在自动驾驶领域等图像处理方向应用较为广泛。但是神经网络存在安全隐患，容易受到攻击导致决策错误，比如对抗样本攻击和后门攻击。如何测试神…
