以深度学习为代表的人工智能技术正在悄然改变人们的生产生活方式，但深度学习模型的部署也带来了一定的安全隐患。对抗样本攻击能使深度学习模型系统进行误判，对各个人工智能应用领域造成了严重的安全威胁。本文从人工智能应用的特定安全领域出发，如入侵检测领域和恶意软件检测领域，介绍了对抗样本攻击的生成原因，安全领域中对抗样本与图像领域的区别以及安全领域中的对抗样本防御方法，并对当前主流的防御方法进行了总结归纳和优劣分析，对深刻理解模型内在脆弱性、全面保障智能系统安全性、广泛部署人工智能应用具有重要意义。
特定安全领域中的对抗样本防御方法-王琛原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2021/08/31/%e7%89%b9%e5%ae%9a%e5%ae%89%e5%85%a8%e9%a2%86%e5%9f%9f%e4%b8%ad%e7%9a%84%e5%af%b9%e6%8a%97%e6%a0%b7%e6%9c%ac%e9%98%b2%e5%be%a1%e6%96%b9%e6%b3%95/
1.问题描述 上一次说了最小编辑距离，这次在这上面加一点料，a1、a2和a3每次操作的代价不同了，加入了每个操作的代价，这下问题变为，针对字符串a和字符串b定义三种操作，a1、a2…
本次报告介绍了模糊测试以及各种分类方法，并且讲解了目前流行的模糊测试工具AFL的原理，阐明了AFL工具是如何提高代码覆盖率的。针对AFL存在的测试用例生成盲目性的问题，介绍了一种基…
NER一直是NLP领域中的研究热点。近年来，深度学习方法在特征抽取深度和模型精度上表现优异，已经超过了传统方法，但无论是传统机器学习还是深度学习方法都依赖大量标注数据来训练模型。然…
吕英 2015.1.28
深度学习模型的鲁棒性解释方法旨在提升模型在面对输入扰动或对抗攻击时的解释一致性，是增强模型可信性和应用价值的重要研究方向。本次学术报告介绍了该领域的研究背景与发展现状，重点阐述了M…
Java虚拟机实现了自动内存管理机制，包括自动内存分配和自动垃圾回收，大大避免了由于代码错误导致的内存泄漏和溢出，得到大量开发者青睐…
研究文本生成大模型的后门攻击，揭示了现有文本大模型的后门风险。本次学术报告详细介绍了现有文本生成模型的后门分类方法以及基准数据集，在文本大模型的多个下游任务实现了后门攻击，并总结了…
Hook技术就是在事件传送到终点前截获并监控事件的传输，像个钩子钩上事件一样，并且能够在钩上事件时，处理一些自己特定的事件。 附件-Android Hook 技术分析.pdf
近年，机器学习已经在计算机视觉、语音识别、语音合成以及自然语言处理（NLP）领域取得了突破性成果，在机器翻译和情感计算中展现的能力也颇令人期待。 其中机器学习方法可以分为生成方法（…
本次学术报告介绍Web及其两种基本开发方式前后端分离和前后端不分离，然后针对pythonWeb开发中适合初学者且较为稳定的Django 展开介绍，内容主要包括Django基本开发模…
