人工智能系统在近年来取得丰硕的成果，其中神经网络在自动驾驶领域等图像处理方向应用较为广泛。但是神经网络存在安全隐患，容易受到攻击导致决策错误，比如对抗样本攻击和后门攻击。如何测试神经网络模型，提前发现模型潜在的缺陷成为亟待解决的问题。本报告重点讲述了人工智能系统的测试框架和测试指标，并介绍了应用覆盖测试思想对神经网络模型进行测试的方法。
神经网络模型的覆盖测试-侯钰斌原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2022/01/04/%e7%a5%9e%e7%bb%8f%e7%bd%91%e7%bb%9c%e6%a8%a1%e5%9e%8b%e7%9a%84%e8%a6%86%e7%9b%96%e6%b5%8b%e8%af%95/
本次报告对联邦学习及其后门攻击方法展开介绍，阐述了联邦学习的发展脉络和三大主要框架，介绍了联邦学习安全性问题及后门攻击分类方法，重点讲解经典的集中式/分布式联邦后门攻击方法，启发思…
本次报告介绍一种域自适应网络嵌入框架DANE，该框架解决了嵌入空间偏移和嵌入分布偏移的问题。在DANE中，来自多个网络的节点通过一组共享的可学习参数被编码为向量，以便向量共享对齐的…
认知诊断通过挖掘学习者行为、心理和认知之间的关系，利用学习者的学习数据，对其认知状态进行综合评估和诊断，其输出结果，即学生对于不同知识概念的熟练程度应与实际情况相符，具有高度的可解…
物联网技术和人工智能的快速发展，含时间、空间特性的数据指数增长。如何进行多源异构时空数据本身特性出发，和机器学习深度学习技术深入融合，实现数据实现知识发现和信息挖掘，服务于城市发展…
优化问题是机器学习的核心和本质。在深度学习中，即使有完全相同的数据集和模型框架，使用的优化算法不同，所得到的训练结果也可能不同。深度…
异常检测是时间序列分析中必不可少的任务，判断数据是否符合正态数据分布，不符合的部分称为异常。及时发出异常可以使系统维护人员主动进行维护，从而在欺诈检测、入侵检测和能源管理等实际应用…
Deep Learning词向量生成的方法通过神经网络模型让机器自动学习到每个词有效的特征表示，而CBOW模型和Skip-gram模型是目前最流行、常用的Deep learni…
目前音频处理领域各种系统的参数优化研究，通常把系统的各个层次（一般包括特征提取、特征向量生成、模型训练等）割裂开来进行相互独立的参数寻优，再将独立寻优结果进行简单组合，构成系统的参…
注意力机制应用在encoder-decoder模型中，可以使Decoder根据时刻的不同，让每一时刻的输入都…
机器学习，尤其是神经网络，已广泛部署在行业环境中，模型通常被部署为预测服务。但是，具有对模型的查询访问权的对手可以窃取该模型以获得与远程目标模型基本一致的替代模型，这就是模型窃取攻…
