人工智能软件系统的安全逐渐受到人们的重视，深度学习软件库存在的缺陷可能威胁到框架之上的模型和系统，目前仍然缺少深度学习软件库测试的系统方法。面对深度学习安全领域，针对深度学习软件库的漏洞方法存在的测试预期如何选取的问题，本次汇报分享了通过两两比较不同框架下模型输出差异的差分测试方法，方法对于分类任务和回归任务分别提出了各自的距离度量，来衡量不同框架输出差异的大小，以及通过计算模型每一层函数输出差异的变化率、手动定位缺陷在代码的最终位置。
面向深度学习组件的漏洞挖掘-刘力源原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2021/12/12/%e9%9d%a2%e5%90%91%e6%b7%b1%e5%ba%a6%e5%ad%a6%e4%b9%a0%e7%bb%84%e4%bb%b6%e7%9a%84%e6%bc%8f%e6%b4%9e%e6%8c%96%e6%8e%98/
随着现代软件规模的不断扩大和复杂性的不断提高，软件缺陷调试所消耗的成本也在不断增加，软件缺陷的自动修复成为越来越迫切的需求。软件缺陷自动修复可以分为缺陷定位、补丁生成、补丁验证三个…
多视角即从各种不同的角度观察同一事物 ，在深度学习中即引入一个函数去模型化特定的视角，并且利用相同输入的冗余视角去联合优化所有函数，达到更好的模型效果。多视角学习可应用于大多数数据…
本次报告介绍了用户画像建模的相关基本概念，以及用于短文本处理的用户画像构建LDA-RCC组合模型。基本概念包过用户画像的作用、构建过程、分类等。LDA-RCC组合模型解决了传统文本…
智能化系统越来越多地部署在对安全性至关重要的领域中，包括无人驾驶汽车和恶意软件检测。在这些领域中，系统行为的正确性和可预测性对于极端案例输入是至关重要的。软件测试作为软件部署前的重…
本次报告围绕协议模糊测试方法展开，从提升协议模糊测试效率和有效性上考虑，要满足以下三个层面内容：1、数据生成角度：生成的测试用例要符合协议规范；2、数据传输角度：生成的测试用例能够…
摘要：本报告介绍了视频深度伪造的基本算法，针对算法中存在的3个问题，重点讲述了在小样本条件下的域迁移学习生成伪造视频，并通过攻防对抗的概念引出了伪造视频检测算法，阐明针对伪造视频中…
近年来，基于机器学习的算法在恶意流量检测领域中越来越流行，但此类算法通常使用浅层模型，在训练之前需要一组专家手工制作的特征来预处理数据。此类方法的主要问题是，在不同类型的场景下，手…
目前针对二进制漏洞挖掘主要有三个研究方向：符号执行、污点分析和模糊测试。本次报告首先介绍了污点分析的三个重要…
本次报告讲述漏洞检测相关基本概念，源码级漏洞检测的一般步骤，主要从关键点选取、代码切片、代码表示等几个方面讲解源码漏洞检测方法，主要针对泛化性、多类型漏洞检测问题进行研究。
情绪变化识别在人机交互、情绪计算等对话智能领域中具有重要价值，显著增强了模型对动态语境的理解能力。本次报告将介绍对话与语音中的情绪建模任务，分析其研究背景与应用意义，并重点讲解两类…
