人类正在经历着由深度学习技术推动的人工智能浪潮，它为人类生产和生活带来了巨大的技术革新。然而，以往的机器学习理论大多没有考虑开放甚至对抗的系统运行环境，逐渐暴露出了许多安全和隐私问题。本次学术报告介绍了人工智能系统安全防护的基本思想，并分享了六种经典的人工智能系统攻击手段及相应对策，最后讨论了人工智能系统未来在安全研究方面的发展趋势。
网络安全组-学术报告-人工智能系统安全综述-王琛-2020-04-12原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2020/04/22/%e4%ba%ba%e5%b7%a5%e6%99%ba%e8%83%bd%e7%b3%bb%e7%bb%9f%e5%ae%89%e5%85%a8%e7%bb%bc%e8%bf%b0/
Cookie 是网站为辨别用户身份而储存在用户终端上的数据（通常经过加密），是绕开http无状态性的额外手段…
NER一直是NLP领域中的研究热点。近年来，深度学习方法在特征抽取深度和模型精度上表现优异，已经超过了传统方法，但无论是传统机器学习还是深度学习方法都依赖大量标注数据来训练模型。然…
本报告介绍了联邦学习领域后门攻击与防御的基本概念、联邦学习的训练流程，分别聚合规则和聚类规则的后门防御算法进行具体说明，阐述了联邦学习领域后门攻击与防御的发展方向及个人思考。
简介：神经网络算法在自然语言和计算机视觉等领域取得了快速发展和成熟应用，且在程序分析领域也具有广泛应用，如代码克隆检测、程序分类、漏洞分析和代码搜索等任务。然而不同的程序源代码表示…
本次报告围绕大模型指导的协议模糊测试技术展开，首先阐述了大模型指导的协议模糊测试的基本概念、研究背景和研究意义，然后介绍了传统协议模糊测试方法的特点与优劣势，并介绍了大模型指导的协…
异构图（HG）也称为异构信息网络，在现实世界中已变得无处不在；因此，HG嵌入（HG embedding）近年来受到了广泛关注，它旨在学习低维空间中的表示，同时保留下游任务的异构结构…
本报告围绕“源代码安全补丁存在性测试”展开，聚焦于如何自动识别开源软件中的安全补丁，解决安全补丁与普通补丁混杂、厂商静默发布、攻击窗口缩短等问题，介绍了一种结构感知的检测方法——R…
本次报告主要讲述了如何准确高效地检测安卓APP内的第三方库。介绍了第三方库检测的基本概念和主要困难，解释了准确高效检测第三方库的意义，详细讲解布隆过滤器的原理与使用方法、基于熵的代…
当深度学习以惊人的准确性执行各种各样任务的同时，在图像分类等领域的深度神经网络却容易受到对抗样本的攻击，从而输出错误的预测结果。本次学术报告首先说明了对抗攻防的主要方法分类和残差网…
在训练层数较多的神经网络的过程中，使用基于反向传播的梯度优化算法来优化参数有可能会遇到梯度消失或梯度爆炸的问…
