人类正在经历着由深度学习技术推动的人工智能浪潮，它为人类生产和生活带来了巨大的技术革新。然而，以往的机器学习理论大多没有考虑开放甚至对抗的系统运行环境，逐渐暴露出了许多安全和隐私问题。本次学术报告介绍了人工智能系统安全防护的基本思想，并分享了六种经典的人工智能系统攻击手段及相应对策，最后讨论了人工智能系统未来在安全研究方面的发展趋势。
网络安全组-学术报告-人工智能系统安全综述-王琛-2020-04-12原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2020/04/22/%e4%ba%ba%e5%b7%a5%e6%99%ba%e8%83%bd%e7%b3%bb%e7%bb%9f%e5%ae%89%e5%85%a8%e7%bb%bc%e8%bf%b0/
多视图聚类技术旨在利用不同视图之间信息的互补性和一致性增强模型的鲁棒性，提高聚类准确率。本次报告首先讲述多视图聚类的基本概念，然后结合两篇算法对完全多视图聚类和不完全多视图聚类方法…
本次报告介绍了模糊测试以及各种分类方法，并且讲解了目前流行的模糊测试工具AFL的原理，阐明了AFL工具是如何提高代码覆盖率的。针对AFL存在的测试用例生成盲目性的问题，介绍了一种基…
随着大语言模型的快速发展与广泛应用，其安全问题日益凸显，后门攻击便是主要威胁之一。本次报告介绍了两种针对大模型微调阶段的后门攻击方法，它们分别通过确定目标生成条件和改变Token，…
Virtualization-based Monitoring Virtualization-based Monitoring 是指利用虚拟化技术对上层虚拟机进行监控或者保护。通常…
课程推荐在人机协同、个性化学习平台等智能教育系统中具有重要价值，显著提升了模型对用户兴趣动态变化的建模能力与推荐效果。本次报告将介绍课程推荐任务，分析其研究背景与应用意义，并重点讲…
数据不平衡问题是指一个类别的数据个数远远少于另一个类别的数据个数，通常这种问题被称为“数据不平衡”问题，在这…
当前监督学习技术已经取得了巨大的成功，但是值得注意的是，由于数据标注过程的成本太高，很多任务很难获得如全部真值标签这样的强监督信息。而无监督学习由于学习过程太过困难，它的发展缓慢。…
在AI攻击复杂性和密集性不断提升的大背景下，ML-NIIDS面临巨大挑战，其中流量对抗样本严重威胁其安全稳定。本次报告从NIDS的迭代发展，聚焦到对抗性安全威胁，再引出主流流量对抗…
大数据时代隐私泄露成为了一个严重的问题，大量的个人信息在网上传播。另一方面大数据时代对数据的可用性也有一定的要求。因此当前如何在保障用户的隐私的同时，提供一定的可用性成为一个关键问…
推荐系统在现在的生活中随处可见，淘宝天猫的商品推荐，音乐软件的每日歌曲推荐等，协同过滤就是一种很受欢迎的推荐…
