深度神经网络鲁棒性评估方法

深度学习模型具有高度非线性和特征空间抽象等特性,内部决策逻辑难以解释,导致其实际应用严重受限。本次报告从深度神经网络可解释性的基本概念出发,对常见的解释方法进行简介,并介绍了一篇将后门攻击应用于攻击解释方法的论文。

深度神经网络鲁棒性评估方法-夏志豪

原创文章,作者:bfs,如若转载,请注明出处:https://www.isclab.org.cn/2023/11/30/%e6%b7%b1%e5%ba%a6%e7%a5%9e%e7%bb%8f%e7%bd%91%e7%bb%9c%e9%b2%81%e6%a3%92%e6%80%a7%e8%af%84%e4%bc%b0%e6%96%b9%e6%b3%95-2/

(0)
bfsbfs
上一篇 2023年11月30日 上午10:49
下一篇 2023年11月30日 下午5:48

相关推荐

  • 走近特定音频识别(之四)—— 训练和识别

    上篇文章介绍了“识别”和“检索”的区别和关系,从这篇开始,我们将从更近的距离接触特定音频识别,本文将向大家介绍特定音频识别系统的基本构成。     一个典型的特定音频识别系统的原理…

    2014年10月28日
    3.1K
  • XenAccess介绍

    1.Xen虚拟平台 Xen Hypervisor 位于操作系统与硬件之间,为其上层运行的操作系统内核提供虚拟化的硬件环境。Xen采用混合模式(Hybrid Model),因此在Xe…

    2014年10月21日
    3.3K
  • HinDroid: An Intelligent Android Malware Detection System Based on Structured Heterogeneous Information Network

          Android恶意软件泛滥,及时准确发现恶意软件有着重要的意义。本文介绍了一种基于异构信息网络的智能andr…

    2018年11月18日
    3.1K
  • 深度模型可解释方法

          深度模型可解释性一直是业界关注的问题。报告介绍了一种新颖的深度学习可解释性方法——树正则化。通过在深度模型训…

    学术报告 2018年3月26日
    3.3K
  • 联邦学习的后门攻击方法

    联邦学习在保证数据安全和隐私的情况下解决了数据孤岛和数据碎片化问题,主要分为横向联邦学习、纵向联邦学习和联邦迁移学习。本次学术报告首先介绍联邦学习的历史现状、分类及应用场景,然后通…

    2022年8月30日
    3.7K
  • Padding–A CNN operation that cannot be ignored

    本次报告主要讲述了padding的种类及其影响,介绍了卷积网络的基本概念和性质、使用padding的主要原因等,详细讲解了特征偏移和信息侵蚀的概念、表现及解决方案,最后对paddi…

    2022年12月5日
    3.0K
  • 代码变更表示学习技术

    代码变更表示学习技术通常将代码变更进行结构化或序列化的中间表示,并将中间表示输入到表示学习模型以获取代码变更中更细粒度的特征,是众多软件工程任务的重要环节之一。本次报告介绍了2类任…

    2023年10月23日
    3.0K
  • 基于GAN的网络流量对抗样本生成技术

    随着机器学习的发展,机器学习已经广泛应用于入侵检测,但研究发现基于机器学习的检测技术存在安全隐患,极易遭受对抗样本的攻击,为了更好的评估入侵检测系统的鲁棒性,研究网络流量的对抗样本…

    2021年1月10日
    5.9K
  • 初识虚拟化技术

    1.虚拟化技术的意义 虚拟化技术已有40多年的历史,它起源于对分时(Time Sharing)系统的需求。   1.1.为什么要使用虚拟化技术 很容易理解,由于不同任务耗…

    2014年10月21日
    3.5K
  • 网络安全态势感知

    随着网络技术的飞速发展,其安全问题日益突出。虽然已经采取了多种网络安全防护措施,但是单一的安全防护措施没有综合考虑各种防护措施之间的关联性,无法从宏观角度评估网络安全性。网络安全态…

    2020年4月21日
    3.7K