模型窃取防御技术能够促进深度神经网络的健康发展，推动数据交流与共享。本次报告从输入输出扰动的角度分析了模型窃取防御方法的框架，从数学角度给出了防御的基本原理以及优缺点，利用防御方法的创新为其它领域的科学研究提供思路。
基于输入输出扰动的模型窃取防御方法-张辰龙原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2024/07/21/%e5%9f%ba%e4%ba%8e%e8%be%93%e5%85%a5%e8%be%93%e5%87%ba%e6%89%b0%e5%8a%a8%e7%9a%84%e6%a8%a1%e5%9e%8b%e7%aa%83%e5%8f%96%e9%98%b2%e5%be%a1%e6%96%b9%e6%b3%95/
对抗样本会的存在严重威胁到机器学习模型的输出准确性。目前最常用的对抗样本生成方法是FGSM，其通过在沿着损失…
Android操作系统是一个开放式的操作系统，保护这样一个开放平台，需要强有力的安全体系结构。Android系统拥有多层次的安全机制，可以灵活地满足用户各层次的安全需求。 1…
优化问题是机器学习的核心和本质。在深度学习中，即使有完全相同的数据集和模型框架，使用的优化算法不同，所得到的训练结果也可能不同。深度…
深度神经网络在图像识别、语音处理以及机器翻译等领域具有良好的预测性能，但是由于深度神经网络对决策结果可解释性的缺乏以及解决训练开销而寻求的外包训练的安全难以有效保证，都导致深度神经…
基于统计的命名实体识别方法根据特征的获取方式，有神经网络和特征工程两个研究方向，实践表明来自知识库的词典特征…
每天都有大量的数据生成，这导致人们越来越需要新的努力来应对大数据给多标签学习带来的巨大挑战。例如，极端多标签分类是一个活跃且快速发展的研究领域，它处理的分类任务具有极其大量的类别或…
该研究针对多模态大语言模型生成内容与输入信息不符的“幻觉”问题，提出两种缓解方法：OPERA在推理阶段通过惩罚过信任与回溯重分配机制减少幻觉；HACL在训练阶段引入幻觉文本作为困难…
知识追踪是缓解基础教育普及需求和严重不足的教师数量之间矛盾的一个关键途径。目前，提高知识追踪的个性化水平是研究重点之一。本次报告介绍了两类强化学生个性的知识追踪技术，包括额外个性化…
针对神经网络模型的缺陷测试使用了神经元覆盖率指标指导测试，这是一种从软件测试领域迁移的概念，指的是测试激活的神经元越多，测试越充分。但是近年来这种测试方法的有效性存疑，特别是测试生…
