对抗攻击是当下智能系统的新威胁，它使得很多在现实世界中应用的智能系统存在的安全漏洞极大地暴露了出来。近年来，学界提出了多种实现对抗攻击的方法，但是在不知道目标模型的防御细节的情况下，研究者很难根据经验选择到对当前模型最优的攻击算法。本次学术报告首先说明了对抗攻击和自动机器学习的基础知识，然后介绍了2021的顶会论文中提出的组合对抗攻击的自动化搜索方法，该方法将对抗攻击细节和参数作为一个黑箱，研究者只需要提供目标模型和数据，算法就会自动选择最优的攻击组合和参数，最后讨论组合对抗攻击自动化搜索在智能系统测试中的应用。
组合对抗攻击的自动化搜索方法-关迎丹原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2021/05/06/%e7%bb%84%e5%90%88%e5%af%b9%e6%8a%97%e6%94%bb%e5%87%bb%e7%9a%84%e8%87%aa%e5%8a%a8%e5%8c%96%e6%90%9c%e7%b4%a2%e6%96%b9%e6%b3%95-%e5%85%b3%e8%bf%8e%e4%b8%b9/
社交机器人模仿人类在Twitter等社交平台上的行为。数以百万计的机器人通常基于平台API，通过自动化程序控制，通过模仿真实用户以实现恶意目标，检测社交机器人对于净化网络空间环境具…
随着图神经网络的广泛应用，以及越来越多的组织和企业关注内部威胁，利用图挖掘的方法检测内部威胁受到越来越多研究者的重视。本次报告介绍了利用图挖掘内部威胁检测方法的整体架构，以及如何从…
时序知识图谱推理根据历史时序知识图谱中已知事实，预测查询中缺失的实体或关系，避免知识图谱不完整性对知识驱动系统造成的影响。本次学术报告首先讲解了时序知识图谱推理基本概念，然后详细介…
在机器学习（ML）和人工智能（AI）时代，保护隐私的数据分析至关重要，在这个时代，一个可用性强的数据集可以提供比优化算法更高的收益。然而现有机制无法提供足够的隐私保障阻碍了自然语言…
本次报告围绕协议模糊测试方法展开，从提升协议模糊测试效率和有效性上考虑，要满足以下三个层面内容：1、数据生成角度：生成的测试用例要符合协议规范；2、数据传输角度：生成的测试用例能够…
网络协议逆向技术是指根据网络流量数据包进行静态分析，推断其所属协议的字段信息、报文格式、交互模式等信息。针对互联网中存在的大量未知（私有）协议进行逆向分析，发现潜在安全漏洞，对维护…
大型复杂软件系统的高频率开发迭代，导致潜在缺陷数量增加，影响工业控制、交通管理等关键领域正常运转。缺陷修复指生成软件缺陷的修复代码，降低人工成本。研究自动化缺陷修复，能够及时修复软…
当深度学习以惊人的准确性执行各种各样任务的同时，在图像分类等领域的深度神经网络却容易受到对抗样本的攻击，从而输出错误的预测结果。本次学术报告首先说明了对抗攻防的主要方法分类和残差网…
关键词提取技术是通过计算机程序从文档中自动提取重要性和主题性的词或短语的自动化技术，该技术在图书馆学、情报学和自然语言处理等领域应用广泛。目前关键词提取技术主要分为无监督和有监督这…
近年来，内部(insider)攻击，包括组织信息系统破坏、信息盗窃、电子欺诈等，具有很强的隐蔽性和破坏性，对个人、企业和国家安全构成了巨大的威胁。因此，我们应该更加关注内部威胁的研…
