人工智能系统在近年来取得丰硕的成果，其中神经网络在自动驾驶领域等图像处理方向应用较为广泛。但是神经网络存在安全隐患，容易受到攻击导致决策错误，比如对抗样本攻击和后门攻击。如何测试神经网络模型，提前发现模型潜在的缺陷成为亟待解决的问题。本报告重点讲述了人工智能系统的测试框架和测试指标，并介绍了应用覆盖测试思想对神经网络模型进行测试的方法。
神经网络模型的覆盖测试-侯钰斌原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2022/01/04/%e7%a5%9e%e7%bb%8f%e7%bd%91%e7%bb%9c%e6%a8%a1%e5%9e%8b%e7%9a%84%e8%a6%86%e7%9b%96%e6%b5%8b%e8%af%95/
Hook技术就是在事件传送到终点前截获并监控事件的传输，像个钩子钩上事件一样，并且能够在钩上事件时，处理一些自己特定的事件。 附件-Android Hook 技术分析.pdf
对抗攻击是当下智能系统的新威胁，它使得很多在现实世界中应用的智能系统存在的安全漏洞极大地暴露了出来。近年来，学界提出了多种实现对抗攻击的方法，但是在不知道目标模型的防御细节的情况下…
摘要：本报告介绍了视频深度伪造的基本算法，针对算法中存在的3个问题，重点讲述了在小样本条件下的域迁移学习生成伪造视频，并通过攻防对抗的概念引出了伪造视频检测算法，阐明针对伪造视频中…
随着多模态情绪识别应用不断发展，真实场景中的模态缺失问题对模型鲁棒性提出了挑战。本次学术报告聚焦缺失模态下的情绪变化识别，介绍了基于单模态专家融合与难度感知课程学习的代表性方法，为…
Ajax技术是创建交互式网页应用的网页开发技术，无需重新加载整个网页的情况下，能够更新部分网页的技术。Ajax 的特点在于异步交互，动态更新 web 页面，因此它的适用范围是交…
本报告围绕“数据集不平衡程度评估”展开，聚焦于如何科学量化多类数据中的结构性不平衡问题，突破传统以样本比例为核心的评估局限。报告系统回顾了不平衡评估的发展脉络，分析了现有方法在面对…
人工智能系统面临着多种安全威胁，其中对抗样本攻击被广泛应用于诸如计算机视觉、自然语言处理、音频处理以及恶意软件检测等多个领域。本文介绍了常见的对抗样本检测方法和原理。特别的，简单分…
课程推荐在人机协同、个性化学习平台等智能教育系统中具有重要价值，显著提升了模型对用户兴趣动态变化的建模能力与推荐效果。本次报告将介绍课程推荐任务，分析其研究背景与应用意义，并重点讲…
本报告主要介绍了隐私数据类型，以及基本的隐私风险检测方法。第一篇论文侧重于分析APP整体的隐私数据泄露，并根据隐私泄露的风险程度给相应的App进行风险评级；第二篇侧重于研究APP中…
本次报告介绍了Python中数据读取和处理的优化方法，对比了csv、pkl、feather、json等数据存储格式的读写速度与空间占用，分析了各数据格式的具体应用场景，同时引入混合…
