人类正在经历着由深度学习技术推动的人工智能浪潮，它为人类生产和生活带来了巨大的技术革新。然而，以往的机器学习理论大多没有考虑开放甚至对抗的系统运行环境，逐渐暴露出了许多安全和隐私问题。本次学术报告介绍了人工智能系统安全防护的基本思想，并分享了六种经典的人工智能系统攻击手段及相应对策，最后讨论了人工智能系统未来在安全研究方面的发展趋势。
网络安全组-学术报告-人工智能系统安全综述-王琛-2020-04-12原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2020/04/22/%e4%ba%ba%e5%b7%a5%e6%99%ba%e8%83%bd%e7%b3%bb%e7%bb%9f%e5%ae%89%e5%85%a8%e7%bb%bc%e8%bf%b0/
随着互联网技术的高速发展和数据规模的快速增长，层次多标签分类应用场景越来越多，如文献组织、新闻标注、蛋白质功能分类等。层次多标签文本分类是多标签分类下的子任务，标记每个给定文本与最…
联邦学习在保证数据安全和隐私的情况下解决了数据孤岛和数据碎片化问题，主要分为横向联邦学习、纵向联邦学习和联邦迁移学习。本次学术报告首先介绍联邦学习的历史现状、分类及应用场景，然后通…
二进制函数相似性分析在1-Day漏洞检测、代码克隆检测、恶意软件检测、软件剽窃检测和自动软件修复等多个应用领域中具有广泛的应用。本次学术报告主要讲解了二进制代码相似性检测技术的基本…
多标签文本分类是对文本信息进行组织、利用和检索的有效手段，能够提高数据处理效率，具有重要的实际价值。平面多标签文本分类是多标签分类下的子任务，标记每个给定文本与最相关的多个标签。本…
关联规则分析是以中基于规则的机器学习算法，也是一种用于知识发现的算法。可以在大数据中发现感兴趣的关系，目的是…
1.Xen虚拟平台 Xen Hypervisor 位于操作系统与硬件之间，为其上层运行的操作系统内核提供虚拟化的硬件环境。Xen采用混合模式（Hybrid Model），因此在Xe…
1.认识漏洞 1.1.漏洞的定义 百度：漏洞是在硬件、软件、协议的具体实现或系统安全策略上存在的缺陷，从而可以使攻击者能够在未授权的情况下访问或破坏系统。 Wikip…
源代码表征是软件工程中的一个重要研究领域，主要关注如何有效地将源代码转化为可以支持各种软件工程任务（如代码搜索、克隆检测、代码自动生成等）的数学模型或数据结构。这些表征通常需要捕获…
文本-图像生成模型在当今生活中有广泛应用，最新研究表明，这类多模态的生成模型也面临着安全风险，例如对抗样本攻击、成员推理攻击和后门攻击等。本次学术报告介绍了文本-图像生成模型最新的…
多智能体系统安全是当前人工智能研究中的重要方向，与系统稳定性、信息可信性及防御能力密切相关，但现有研究多集中于单智能体输入输出过滤或局部安全策略，难以刻画复杂交互网络中的全局风险传…
