深度学习模型具有高度非线性和特征空间抽象等特性，内部决策逻辑难以解释，导致其实际应用严重受限。本次报告从深度神经网络可解释性的基本概念出发，对常见的解释方法进行简介，并介绍了一篇将后门攻击应用于攻击解释方法的论文。
深度神经网络鲁棒性评估方法-夏志豪原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2023/11/30/%e6%b7%b1%e5%ba%a6%e7%a5%9e%e7%bb%8f%e7%bd%91%e7%bb%9c%e9%b2%81%e6%a3%92%e6%80%a7%e8%af%84%e4%bc%b0%e6%96%b9%e6%b3%95-2/
超图对比学习是一种利用超图结构来捕捉节点间复杂关系，并通过对比学习机制来优化节点表示的学习方法。本次报告通过两个算法，从超图增强技术、对比损失形式和对比训练策略三个方面介绍超图对比…
本次报告介绍了超参数的概念和对模型的影响，解释了超参数与模型参数的区别，详细讲解了网格搜索、随机搜索、贝叶斯优化三种优化方法，分析其使用场景及优缺点，最后列举了三种实用的开源调优工…
人工智能系统在近年来取得丰硕的成果，其中神经网络在自动驾驶领域等图像处理方向应用较为广泛。但是神经网络存在安全隐患，容易受到攻击导致决策错误，比如对抗样本攻击和后门攻击。如何测试神…
本报告介绍了利用系统的日志数据进行异常检测所面临的挑战，给出了日志数据分类、用途、实例等基本概念和基础知识，并对日志数据的解析处理和利用日志数据进行异常检测的高水平文献算法进行了详…
针对神经网络模型的缺陷测试使用了神经元覆盖率指标指导测试，这是一种从软件测试领域迁移的概念，指的是测试激活的神经元越多，测试越充分。但是近年来这种测试方法的有效性存疑，特别是测试生…
本次报告介绍了机器学习模型训练过程中的显存优化方法。首先介绍了深度学习框架的显存利用机制，随后结合原理和具体实例讲解了“代码级”和“框架级”显存优化方法，引导大家在实际科研过程中更…
Hook技术就是在事件传送到终点前截获并监控事件的传输，像个钩子钩上事件一样，并且能够在钩上事件时，处理一些自己特定的事件。 附件-Android Hook 技术分析.pdf
智能模型的不确定性是模型内生脆弱性问题的重要表征之一，反映了模型对输入数据预测结果的可信程度，包含了对数据和模型两方面缺陷的量化估计。本次报告介绍了模型不确定性估计工作基本概念，讲…
聚焦联邦学习与联邦图学习场景下的后门攻击检测与防御，概述分布式隐私保护训练中的隐蔽后门风险、Non-IID数据异构挑战与现有防御方法局限；重点介绍FedID基于曼哈顿距离、欧氏距离…
