智能模型的不确定性是模型内生脆弱性问题的重要表征之一，反映了模型对输入数据预测结果的可信程度，包含了对数据和模型两方面缺陷的量化估计。本次报告介绍了模型不确定性估计工作基本概念，讲述了现有体系下两个学派四类方法的研究框架，解释了对两类不确定性分离建模的理论依据，并辅以前沿算法梳理了其计算方法及实验效果表现，表明了当前的研究热点问题和关键挑战。
智能模型的不确定性估计-吴肖龙原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2023/11/06/%e6%99%ba%e8%83%bd%e6%a8%a1%e5%9e%8b%e7%9a%84%e4%b8%8d%e7%a1%ae%e5%ae%9a%e6%80%a7%e4%bc%b0%e8%ae%a1/
注意力（Attention）机制被广泛应用到基于深度学习的自然语言处理(NLP)各个任务中。随着注意力机制的…
本报告重点讲解了AI测试的发展历史，从2007年Murphy等人认为AI系统是不可测试到后续变形测试、差分测试、覆盖测试、突变测试等传统测试方法的引入，再到正确性、鲁棒性、隐私性、…
机器学习，尤其是神经网络，已广泛部署在行业环境中，模型通常被部署为预测服务。但是，具有对模型的查询访问权的对手可以窃取该模型以获得与远程目标模型基本一致的替代模型，这就是模型窃取攻…
介绍了设备识别的发展历史、各层协议的特征及其优劣性，对两篇关于内网、外网识别的高水平文献进行了讲解，对比了设备识别的主要研究方向，以期帮助初学者快速了解领域内的动态及发展前景。
模型水印技术是一种利用特定信息认证保护模型知识产权的方法。本次报告分析了深度学习领域现有的模型水印嵌入方法，从性能鲁棒性和稳定鲁棒性两方面讲述模型水印鲁棒性评估方法，并以实例分析和…
本次报告主要讲述了padding的种类及其影响，介绍了卷积网络的基本概念和性质、使用padding的主要原因等，详细讲解了特征偏移和信息侵蚀的概念、表现及解决方案，最后对paddi…
联邦大模型将联邦学习与大语言模型相结合，遵循“数据不动、模型动”的原则，在无需集中原始数据的前提下，共同训练与优化大模型。该技术能有效破解数据孤岛，为医疗、教育等领域提供隐私安全的…
APT攻击事件频发，严重危害着各国政府部门、组织、公司的网络信息安全。溯源图追踪日志之间的因果关系，保留了系统的丰富执行历史信息，便于检测长期且隐蔽的APT攻击。本次汇报首先讲解了…
本次学术报告简要介绍了人工智能系统面临的各种安全威胁，通过将对抗样本与后门攻击进行多方面比较，从而引入了机器学习模型后门攻击的原理和检测方法，以及后门攻击技术的应用领域。
集成学习是机器学习领域中提升单一模型学习效果的典型方法，而Boosting则是集成学习中常用且效果良好的算法之一。通过将Weak learner巧妙地组合成Strong lea…
