智能化系统越来越多地部署在对安全性至关重要的领域中，包括无人驾驶汽车和恶意软件检测。在这些领域中，系统行为的正确性和可预测性对于极端案例输入是至关重要的。软件测试作为软件部署前的重要保障，应最大限度地找到可能引起系统出现问题的输入，如何将传统软件测试技术引入智能化系统测试是近年来软件测试研究的一个重要领域。在本次报告中，介绍了智能化系统的安全测试方法，重点说明了两种传统软件的白盒测试方法——覆盖测试和突变测试，并阐述了两篇论文，说明如何将这两种技术应用于智能化系统测试，最终总结分析优势劣势。
智能化系统的安全测试方法-王若辉原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2021/03/23/%e6%99%ba%e8%83%bd%e5%8c%96%e7%b3%bb%e7%bb%9f%e7%9a%84%e5%ae%89%e5%85%a8%e6%b5%8b%e8%af%95%e6%96%b9%e6%b3%95/
随着图神经网络的广泛应用，以及越来越多的组织和企业关注内部威胁，利用图挖掘的方法检测内部威胁受到越来越多研究者的重视。本次报告介绍了利用图挖掘内部威胁检测方法的整体架构，以及如何从…
针对开源软件库输入构建需要符合特定编程语言语法规范的问题，现有研究方法分别从构建模型输入和构建API输入两条路线出发，。LEMON方法针对缺陷引起的极小输出差异难以被察觉的问题，采…
着大数据和人工智能技术的飞速发展，知识图谱已成为表示和存储结构化知识的重要工具，其中时序知识图谱则进一步强调了事件随时间演变的重要性。本次学术报告致力于讲解时序知识图谱推理方法，重…
本次报告对表格数据的隐私保护方法展开介绍，介绍了目前常用的表格数据隐私保护方法，重点讲解生成对抗网络的基本原理及其和表格数据隐私保护间关系，详细阐述了经典的利用生成对抗网络生成新表…
表格数据生成能为深度学习扩充不平衡数据，同时也能避免隐私问题，研究如何生成高保真表格数据具有重要意义。本次报告分析了各个生成模型的优劣，以及GAN在表格数据领域的创新思路。
文本生成技术是自然语言处理中一个重要的研究领域，具有广阔的应用前景。传统文本生成的Seq2Seq框架不能有效地利用原始语料中的语义信息，而Graph2Seq模型可以丰富文本的语义知…
模型窃取防御技术能够促进深度神经网络的健康发展，推动数据交流与共享。本次报告从大范围的模型窃取防御领域，聚焦到一类算法，从数学公式上对算法进行详细的分析，并对实验结果进行详细解读，…
聚焦大模型生成中“幻觉”问题的原理、检测方法及其创造力价值。内容涵盖AI幻觉的定义与分类、典型案例、LLM-Check与Verify-and-Edit两种前沿算法的原理与实验评估，…
本报告重点讲解了AI测试的发展历史，从2007年Murphy等人认为AI系统是不可测试到后续变形测试、差分测试、覆盖测试、突变测试等传统测试方法的引入，再到正确性、鲁棒性、隐私性、…
模型水印技术是一种利用特定信息认证保护模型知识产权的方法。本次报告分析了深度学习领域现有的模型水印嵌入方法，从性能鲁棒性和稳定鲁棒性两方面讲述模型水印鲁棒性评估方法，并以实例分析和…
