人工智能系统在近年来取得丰硕的成果，其中神经网络在自动驾驶领域等图像处理方向应用较为广泛。但是神经网络存在安全隐患，容易受到攻击导致决策错误，比如对抗样本攻击和后门攻击。如何测试神经网络模型，提前发现模型潜在的缺陷成为亟待解决的问题。本报告重点讲述了人工智能系统的测试框架和测试指标，并介绍了应用覆盖测试思想对神经网络模型进行测试的方法。
神经网络模型的覆盖测试-侯钰斌原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2022/01/04/%e7%a5%9e%e7%bb%8f%e7%bd%91%e7%bb%9c%e6%a8%a1%e5%9e%8b%e7%9a%84%e8%a6%86%e7%9b%96%e6%b5%8b%e8%af%95/
在机器学习中获得标注数据是一个重要的部分。但是在一些专业领域，标注成本高,成本高，导致了获得标注数据困难。主…
本报告对虚拟化云平台面临的安全威胁与挑战进行介绍，阐述了可用于云平台虚拟机安全检测的系统数据源，重点介绍了利用系统调用序列、系统运行日志的虚拟机异常检测方法，并且概要性介绍了多种序…
本报告阐述了大模型在内核模糊测试中的应用，介绍了 KernelGPT 和 ECG 两种技术。KernelGPT 自动推断系统调用规范，显著提升漏洞发现效率；ECG 结合静态分析与大…
面对大型软件项目，如何准确、快速地找到目标代码的位置将会极大地加速我们的二次开发。本次报告以GUI程序为例介绍了软件源码查找、修改和使用的一般流程。对初学者的软件项目开发工作大有裨…
数据挖掘项目实战，主要以kaggle竞赛平台Titanic生存预测为例详细讲解数据挖掘项目的工作流程，具体包…
该研究针对多模态大语言模型生成内容与输入信息不符的“幻觉”问题，提出两种缓解方法：OPERA在推理阶段通过惩罚过信任与回溯重分配机制减少幻觉；HACL在训练阶段引入幻觉文本作为困难…
本次报告介绍了web项目开发方法，展示了在web开发过程中前后端分离与前后端不分离两种开发模式的基本流程以及优缺点，然后大致介绍了前端与后端各自常用的web框架，最后具体介绍了对外…
本报告介绍了漏洞检测的基本方法以及基于漏洞代码的漏洞评估的概念和评估方法。针对一种漏洞检测方式和一种漏洞评估方式进行了深入讲解，并探讨了漏洞检测和评估领域的现状，提出了一些未来发展…
在很多场景下，收集大量的有标签的数据是非常昂贵、困难、甚至不可能。因此在特定领域、小语种等缺乏标注资源的情况下，NER 任务往往得不到有效解决。为了解决少量标注数据的命名实体识别，…
认知诊断是研究学习者学习行为，分析挖掘基于这些行为的认知状态的方法。知识认知诊断的前沿方法旨在通过准确预测学习者的表现和深入分析其认知能力，推动个性化学习体验的优化。这一方法为教育…
