人工智能软件系统的安全逐渐受到人们的重视，深度学习软件库存在的缺陷可能威胁到框架之上的模型和系统，目前仍然缺少深度学习软件库测试的系统方法。面对深度学习安全领域，针对深度学习软件库的漏洞方法存在的测试预期如何选取的问题，本次汇报分享了通过两两比较不同框架下模型输出差异的差分测试方法，方法对于分类任务和回归任务分别提出了各自的距离度量，来衡量不同框架输出差异的大小，以及通过计算模型每一层函数输出差异的变化率、手动定位缺陷在代码的最终位置。
面向深度学习组件的漏洞挖掘-刘力源原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2021/12/12/%e9%9d%a2%e5%90%91%e6%b7%b1%e5%ba%a6%e5%ad%a6%e4%b9%a0%e7%bb%84%e4%bb%b6%e7%9a%84%e6%bc%8f%e6%b4%9e%e6%8c%96%e6%8e%98/
研究大模型隐私泄露攻击，揭示了大模型面临的隐私信息泄露风险。本次学术报告介绍了大模型的应用价值和市场体量，讲述了关于大模型隐私泄露攻击的最新方法，指明了现有的缺陷和未来发展方向。
研究深度半监督聚类方法，首先利用自编码器对高维数据降维处理，同时提取构建三种范围的约束信息：主动构建的成对约束、带标签的种子约束、簇间大小比例约束；最后融合三种约束信息指导编码器训…
本报告介绍了模糊测试中的基本概念及网络应用程序漏洞挖掘发展历史和类型划分等背景知识，对2种基于覆盖引导的灰盒web模糊测试算法进行了具体说明，阐述了网络应用程序漏洞挖掘的发展趋势和…
Deep Learning词向量生成的方法通过神经网络模型让机器自动学习到每个词有效的特征表示，而CBOW模型和Skip-gram模型是目前最流行、常用的Deep learni…
本报告介绍了深度学习后门攻击的基本概念、类型划分等背景知识，对一种基于模型权重修改和一种基于模型结构修改的后门攻击算法进行了具体说明，阐述了对于深度学习后门攻击领域现状的未来发展的…
多标签学习的研究对于多义性对象的学习建模具有十分重要的意义，现已逐渐成为机器学习界一个新的研究热点。本次报告…
高斯混合模型（Gaussian mixture model，GMM）用于对样本的概率密度分布进行估计，而估计…
Android应用在开发和发布初期可能存在各种原因导致的隐藏安全风险，这些安全风险如若不进行检测和修复，会给用户和开发者带来巨大的损…
认知扭曲是认知行为治疗中的核心概念，与抑郁、焦虑等心理障碍的形成和维持密切相关，但现有很多研究主要关注情绪倾向或表层语义，难以刻画个体更深层的思维偏差与认知模式，同时认知扭曲往往存…
Few-shot learning (FSL)的含义是得到从少量样本中学习和概括的能力，它希望机器学习模型在学习了一定类别的大量数据后，对于新的类别，只需要少量的样本就能快速学习。…
