DNN中的理论可解释性

自DNN诞生起,人们就开始尝试对其解释。若要对DNN进行定量、严谨的解释,数学层面的理论构建是必要的。本次报告介绍了基于博弈论Shapley Value构建的DNN可解释性理论体系,跟随理论构建过程,讲解了概念定义的初衷、条件和性质,进而分析了证明和计算过程,并介绍了数学层面的可解释性在语义层面的应用。

DNN中的理论可解释性-段学明

原创文章,作者:bfs,如若转载,请注明出处:https://www.isclab.org.cn/2024/01/17/dnn%e4%b8%ad%e7%9a%84%e7%90%86%e8%ae%ba%e5%8f%af%e8%a7%a3%e9%87%8a%e6%80%a7/

(0)
bfsbfs
上一篇 2024年1月3日 上午10:25
下一篇 2024年1月17日 下午9:54

相关推荐

  • 大模型指导的内核模糊测试

    本报告阐述了大模型在内核模糊测试中的应用,介绍了 KernelGPT 和 ECG 两种技术。KernelGPT 自动推断系统调用规范,显著提升漏洞发现效率;ECG 结合静态分析与大…

    2025年6月23日
    3.7K
  • 多人协作利器Git

    详细介绍Git的原理、初级和进阶用法

    2020年9月4日
    4.1K
  • 基于Transformer的时间序列分析

    本次报告主要从Transformer框架入手,介绍基于Transformer模型的时间序列分析方法。针对Transformer模型的位置嵌入、注意力机制、模型架构三个方向在时间序列…

    2023年6月17日
    3.8K
  • 深度神经网络对抗样本防御方法

    近年来深度学习技术不断突破,极大促进了人工智能行业的发展,但人工智能模型本身易受到对抗攻击从而引起严重后果。对原始样本有针对性地加入微小扰动,该扰动不易被人眼所察觉,但会导致人工智…

    2021年1月4日
    3.9K
  • Web快速开发方法简介

    本次报告先介绍了五种Web开发模式,讲解了各种开发模式的结构和优缺点,并结合实验室内部情况对合适的开发模式进行了推荐。之后简单介绍了Django、Flask、CherryPy这三个…

    2020年1月13日
    3.8K
  • 群体认知诊断技术研究

    智慧教育系统的不断发展促进了在线学习的用户数量爆炸式增长,对于学生认知水平诊断要求不断提高,群体认知诊断技术能够帮助平台挖掘学习群体的共性需求,增进教学效果。本次学术报告介绍了群体…

    2025年10月11日
    3.4K
  • 注意力机制

          注意力机制应用在encoder-decoder模型中,可以使Decoder根据时刻的不同,让每一时刻的输入都…

    2018年10月8日
    3.6K
  • 二进制代码开源成分分析

    二进制代码-源代码匹配是信息安全领域的重点研究方向之一。在给定二进制代码的情况下,逆向分析研究人员希望找到它对应的源代码,从而提升逆向分析的效率和准确率。但由于源代码和二进制代码的…

    2022年6月27日
    4.2K
  • 语义级代码克隆检测

    代码克隆(Code Clone),是指存在于代码库中两个及两个以上相同或者相似的源代码片段, 是软件开发中的常见现象。近年来,针对Ⅳ型克隆即语义级克隆的检测技术受到了广泛关注。主要…

    2022年10月11日
    4.0K
  • 基于协同过滤的推荐算法

          推荐系统在现在的生活中随处可见,淘宝天猫的商品推荐,音乐软件的每日歌曲推荐等,协同过滤就是一种很受欢迎的推荐…

    2018年8月27日
    3.5K