人工智能系统在近年来取得丰硕的成果，其中神经网络在自动驾驶领域等图像处理方向应用较为广泛。但是神经网络存在安全隐患，容易受到攻击导致决策错误，比如对抗样本攻击和后门攻击。如何测试神经网络模型，提前发现模型潜在的缺陷成为亟待解决的问题。本报告重点讲述了人工智能系统的测试框架和测试指标，并介绍了应用覆盖测试思想对神经网络模型进行测试的方法。
神经网络模型的覆盖测试-侯钰斌原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2022/01/04/%e7%a5%9e%e7%bb%8f%e7%bd%91%e7%bb%9c%e6%a8%a1%e5%9e%8b%e7%9a%84%e8%a6%86%e7%9b%96%e6%b5%8b%e8%af%95/
深度神经网络在图像识别、语音处理以及机器翻译等领域具有良好的预测性能，但是由于深度神经网络对决策结果可解释性的缺乏以及解决训练开销而寻求的外包训练的安全难以有效保证，都导致深度神经…
基于统计的命名实体识别方法根据特征的获取方式，有神经网络和特征工程两个研究方向，实践表明来自知识库的词典特征…
模式是一种可复用的解决方案，可用于解决软件设计中遇到的常见问题。本次报告带大家了解web开发中部分设计模式思想以及应用实例 ，以及了解消息中间件（异步、解耦、削峰）的简单使用。
需求频繁变化是软件设计的基本特征，提升软件的可复用性、可维护性、可扩展性是软件设计的重要目标。以封装、继承和…
首先介绍半监督学习和患者相似性分析的概念和研究背景，其次介绍半监督聚类的的具体分类和聚类评价指标；最后介绍两篇文献的算法原理和实验结果，第一篇时融合多源约束信息的的半监督聚类方法，…
近年，机器学习已经在计算机视觉、语音识别、语音合成以及自然语言处理（NLP）领域取得了突破性成果，在机器翻译和情感计算中展现的能力也颇令人期待。 其中机器学习方法可以分为生成方法（…
随着大数据时代的来临和计算机算力的不断提升，机器学习模型迅速发展，成为计算机视觉、自然语言处理以及恶意软件检测等领域的研究热点。然而最近的研究发现，机器学习模型面临着严峻的安全威胁…
摘要：本报告介绍了深度神经网络模型水印的基本概念和嵌入方式，并讲述了两种深度神经网络模型水印保护方法，从水印嵌入、提取和验证三个角度分析了保护模型的原理，提升对模型知识产权保护的认…
随着互联网技术的高速发展和数据规模的快速增长，层次多标签分类应用场景越来越多，如文献组织、新闻标注、蛋白质功能分类等。层次多标签文本分类是多标签分类下的子任务，标记每个给定文本与最…
