智能模型的不确定性是模型内生脆弱性问题的重要表征之一，反映了模型对输入数据预测结果的可信程度，包含了对数据和模型两方面缺陷的量化估计。本次报告介绍了模型不确定性估计工作基本概念，讲述了现有体系下两个学派四类方法的研究框架，解释了对两类不确定性分离建模的理论依据，并辅以前沿算法梳理了其计算方法及实验效果表现，表明了当前的研究热点问题和关键挑战。
智能模型的不确定性估计-吴肖龙原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2023/11/06/%e6%99%ba%e8%83%bd%e6%a8%a1%e5%9e%8b%e7%9a%84%e4%b8%8d%e7%a1%ae%e5%ae%9a%e6%80%a7%e4%bc%b0%e8%ae%a1/
本报告介绍了深度神经网络模型窃取检测的三种方法，从算法思想，实验结果，算法分析三个角度对已有算法进行贯穿式总结，阐述了模型窃取检测领域的难点，提升对模型安全领域问题的认识
图神经网络模型的可解释性对于建立用户与决策模型之间的信任关系至关重要，为了安全、可信地部署图神经网络模型，需要提高图神经网络模型的可解释性和透明性。本次报告带大家了解图神经网络的可…
本次报告聚焦大模型支持下的程序崩溃故障定位方法，介绍了AutoFL与FlexFL两个代表性算法，重点讲解了函数交互在大模型中的创新应用，并比较开源与闭源模型在定位精度与效率上的表现…
胶囊(向量神经)网络是针对CNN的缺陷提出的一种新的方法，主要实现了两点改进：1.将CNN的输出结果由标量（scalar）替换成了向…
背景知识 序列标注模型被广泛应用于文本处理相关领域，例如分词、词性标注、命名实体识别等方面。现有的序列标注模型主要有HMM，MEMM 以及 CRF，通过对这几种自然语言处理中常用的…
在说明计算机如何进行特定音频识别这个问题之前，我们有必要对两个我们经常接触到的概念加以区分——“检索”和“识别”。 刚刚接触音频信号处理的朋友们常常会混淆这两个概念，本人刚…
研究文本生成大模型的后门攻击，揭示了现有文本大模型的后门风险。本次学术报告详细介绍了现有文本生成模型的后门分类方法以及基准数据集，在文本大模型的多个下游任务实现了后门攻击，并总结了…
本报告讲述了隐私计算技术体系的整体架构及主要理论，给出了迁移学习及领域自适应问题的基本概念，通过详细介绍隐私保护政策下最新的去中心化无监督领域自适应论文以及基于隐私保护的模型联邦个…
特征选择是指为了构建模型而选择相关特征子集的过程，目的是去除特征中的无关特征和冗余特征，进而达到简化模型，增…
人工智能技术发展迅速，不仅在图像领域，在决策系统等领域也发挥了重要作用。用于模型训练的数据集中含有显示或者隐式的敏感属性（如性别、种族等），模型往往会利用敏感属性的特征做出决策，这…
