人类正在经历着由深度学习技术推动的人工智能浪潮，它为人类生产和生活带来了巨大的技术革新。然而，以往的机器学习理论大多没有考虑开放甚至对抗的系统运行环境，逐渐暴露出了许多安全和隐私问题。本次学术报告介绍了人工智能系统安全防护的基本思想，并分享了六种经典的人工智能系统攻击手段及相应对策，最后讨论了人工智能系统未来在安全研究方面的发展趋势。
网络安全组-学术报告-人工智能系统安全综述-王琛-2020-04-12原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2020/04/22/%e4%ba%ba%e5%b7%a5%e6%99%ba%e8%83%bd%e7%b3%bb%e7%bb%9f%e5%ae%89%e5%85%a8%e7%bb%bc%e8%bf%b0/
大数据时代的到来，同时也带来了隐私、敏感信息保护方面的棘手难题。数据脱敏措施层出不穷，K-Anonymity，L-Diversity，T-Closeness，以及相结合的微聚集算法…
知识追踪是缓解基础教育普及需求和严重不足的教师数量之间矛盾的一个关键途径。目前，提高知识追踪的个性化水平是研究重点之一。本次报告介绍了两类强化学生个性的知识追踪技术，包括额外个性化…
虚假新闻对社会产生了许多负面影响。现有假新闻检测方法按照输入条件，可分为基于新闻内容及其外部知识的方法，以及基于社交上下文的方法。最新的方法在检测假新闻方面取得了较高的精度，然而这…
本报告介绍了跨语言过程调用的基本概念，展示了基于socket、http通信和rpc框架等三种方法的网络通信式过程调用的原理，梳理了基于ctypes和pybind11等两种方法的链接…
本报告介绍了深度神经网络鲁棒性评估方法的基本概念和评估方式，并讲述了两种评估方法，分别从定性分析和定量计算两个角度讲述了如何对鲁棒性进行评估，提升对深度神经网络鲁棒性和评估方法的认…
在训练层数较多的神经网络的过程中，使用基于反向传播的梯度优化算法来优化参数有可能会遇到梯度消失或梯度爆炸的问…
该研究针对多模态大语言模型生成内容与输入信息不符的“幻觉”问题，提出两种缓解方法：OPERA在推理阶段通过惩罚过信任与回溯重分配机制减少幻觉；HACL在训练阶段引入幻觉文本作为困难…
成员推理攻击（Membership Inference Attack）作为一种隐私攻击方法，其攻击对象是机器学习目标模型，攻击目标是推理一条或一批数据是否作为目标模型的训练集，以此…
代码自动编辑任务通过应用频繁出现的编辑模式对现有代码进行修改，能够提升软件开发的效率。CODIT方法将代码编辑过程建模为树结构变换和标记生成两个阶段。MODIT方法输入整合需要编辑…
Android应用在开发和发布初期可能存在各种原因导致的隐藏安全风险，这些安全风险如若不进行检测和修复，会给用户和开发者带来巨大的损…
