DNN中的理论可解释性

自DNN诞生起,人们就开始尝试对其解释。若要对DNN进行定量、严谨的解释,数学层面的理论构建是必要的。本次报告介绍了基于博弈论Shapley Value构建的DNN可解释性理论体系,跟随理论构建过程,讲解了概念定义的初衷、条件和性质,进而分析了证明和计算过程,并介绍了数学层面的可解释性在语义层面的应用。

DNN中的理论可解释性-段学明

原创文章,作者:bfs,如若转载,请注明出处:https://www.isclab.org.cn/2024/01/17/dnn%e4%b8%ad%e7%9a%84%e7%90%86%e8%ae%ba%e5%8f%af%e8%a7%a3%e9%87%8a%e6%80%a7/

(0)
bfsbfs
上一篇 2024年1月3日 上午10:25
下一篇 2024年1月17日 下午9:54

相关推荐

  • 文本安全

    动态规划——最小编辑代价 序列标注模型 命名实体识别简介 文本表示方法(一)——空间向量模型 文本表示方法(二)——潜在语义分析 文本表示方法(三)——topic models i…

    学术报告 2014年10月18日
    3.1K
  • 机器学习中的数据不平衡问题

          数据不平衡问题是指一个类别的数据个数远远少于另一个类别的数据个数,通常这种问题被称为“数据不平衡”问题,在这…

    2018年12月17日
    3.3K
  • 图嵌入-GraphSAGE

    现在大多数方法都是直推式学习, 不能直接泛化到未知节点。这些方法是在一个固定的图上直接学习每个节点embedding,但是大多情况图是会演化的,当网络结构改变以及新节点的出现,直推…

    2020年7月6日
    4.1K
  • 网络安全

    虚拟化技术:        初识虚拟化技术        XenAccess介绍        虚拟化安全监控技术小结  漏洞分析与利用:        缓冲区溢出漏洞浅析    …

    学术报告 2014年11月5日
    3.4K
  • 缓解多模态大语言模型的幻觉问题

    该研究针对多模态大语言模型生成内容与输入信息不符的“幻觉”问题,提出两种缓解方法:OPERA在推理阶段通过惩罚过信任与回溯重分配机制减少幻觉;HACL在训练阶段引入幻觉文本作为困难…

    2025年12月1日
    5.3K
  • 面向网络应用程序的模糊测试

    本报告介绍了模糊测试中的基本概念及网络应用程序漏洞挖掘发展历史和类型划分等背景知识,对2种基于覆盖引导的灰盒web模糊测试算法进行了具体说明,阐述了网络应用程序漏洞挖掘的发展趋势和…

    2024年5月31日
    3.0K
  • 极端多标签文本分类

    极端多标签文本分类旨在为每个文本分配大量可能的标签,处理标签数量巨大和数据稀疏性问题。该技术通过高效的特征选择、标签嵌入和深度学习模型,提高分类准确性和速度。极端多标签文本分类广泛…

    2024年9月17日
    3.5K
  • 对抗环境强化学习

    强化学习(Reinforcement learning ,RL )是机器学习领域之一,研究如何通过一系列的顺序决策来达成一个特定目标。本次报告从强化学习的基本框架开始,介绍了强化学…

    2019年12月17日
    3.6K
  • 软件定义网络拓扑发现技术

    软件定义网络,作为一种可编程的新型网络架构,相比于传统网络具有许多的优点,在网络可视化、流量监控、访问控制等网络管理和运维领域中具有得天独厚的优势。而由于软件定义网络的控制器要求对…

    2020年7月26日
    3.6K
  • 代码异味检测

    本次学术报告对以往实验室软件系统/代码质量评估的研究方向做了一个总结并引出新的概念:代码异味检测。针对代码异味概念,生成原因和研究最新的方向进行了探讨。同时结合两篇论文,从多异味检…

    2023年6月5日
    3.6K