DNN中的理论可解释性

自DNN诞生起,人们就开始尝试对其解释。若要对DNN进行定量、严谨的解释,数学层面的理论构建是必要的。本次报告介绍了基于博弈论Shapley Value构建的DNN可解释性理论体系,跟随理论构建过程,讲解了概念定义的初衷、条件和性质,进而分析了证明和计算过程,并介绍了数学层面的可解释性在语义层面的应用。

DNN中的理论可解释性-段学明

原创文章,作者:bfs,如若转载,请注明出处:https://www.isclab.org.cn/2024/01/17/dnn%e4%b8%ad%e7%9a%84%e7%90%86%e8%ae%ba%e5%8f%af%e8%a7%a3%e9%87%8a%e6%80%a7/

赞 (0)
bfsbfs
上一篇 2024年1月3日 上午10:25
下一篇 2024年1月17日 下午9:54

相关推荐

  • 词向量计算——word2vec算法理解

    魏超2014.11.2

    2014年11月4日
    3.5K
  • 跨域开发与安全

    在大型项目开发时,可能会遇到多域名或多个ip之间使用ajax异步请求进行通信的情况,默认情况下,浏览器会阻断ajax对跨域请求的读取。本此报告介绍了开发中的跨域方案和跨域方案可能产…

    2020年9月14日
    4.3K
  • Agent or not?从程序自动修复评估智能体

    本次报告在程序自动修复场景评估智能体,首先以OpenClaw为例引出Agent,阐释智能体与程序自动修复的内涵、背景及SWE-bench、ACI等基础;随后重点介绍SWE-agen…

    2026年3月9日
    4.3K
  • 基于NLP的软件漏洞检测方法

    随着官方发布的漏洞数量呈现指数的增长趋势,针对漏洞检测技术的研究应运而生。漏洞种类的多样性以及检测方法的单一性导致漏洞检测结果呈现一定的局限性,随着自然语言处理技术的兴起和专家知识…

    2022年2月21日
    4.5K
  • 机器合成数据生成与评价方法

    本学术报告系统梳理了机器合成数据生成技术(GAN/VAE/扩散模型)的发展脉络,重点解读了两篇顶会论文——TabDiff(ICLR 2025,面向表格数据的混合型扩散模型)和Fai…

    2026年6月8日
    1.9K
  • 跨语言词向量

        跨语言词向量(corss-lingual word embeddings)是一种的对单语言环境下的模型进行多语言扩展的有效手段。通过…

    学术报告 2018年2月26日
    4.3K
  • 序列标注模型

    背景知识 序列标注模型被广泛应用于文本处理相关领域,例如分词、词性标注、命名实体识别等方面。现有的序列标注模型主要有HMM,MEMM 以及 CRF,通过对这几种自然语言处理中常用的…

    2015年2月2日
    4.2K
  • 提示词怎么在别人兜里:提示词窃取攻击

    研究提示词窃取攻击,揭示了提示词面临的泄露风险。本次学术报告介绍了提示词的应用价值和市场体量,讲述了关于提示词窃取攻击的最新方法,指明了现有的缺陷和未来发展方向。

    2025年3月17日
    4.3K
  • 逆向分析与软件保护

    逆向思维应用在学习、工作中的方方面面,学术报告中介绍了逆向分析的概念及应用,通过微信的破解演示展示了软件逆向的过程。在最后针对软件发布后可能存在的被调试、被破解风险,介绍了几种软件…

    2020年5月5日
    4.6K
  • 面向数据异构与通信高效的联邦大模型优化与应用研究

    联邦大模型将联邦学习与大语言模型相结合,遵循“数据不动、模型动”的原则,在无需集中原始数据的前提下,共同训练与优化大模型。该技术能有效破解数据孤岛,为医疗、教育等领域提供隐私安全的…

    2025年10月27日
    4.3K