文本分类硬标签黑盒模型的对抗样本生成方法研究

研究文本分类硬标签黑盒模型的对抗样本生成方法,分析模型的潜在安全风险,为加强模型鲁棒性提供方向。本次学习报告讲解了文本分类模型对抗样本生成方法的总体状况,并介绍了关于文本分类硬标签黑盒模型对抗样本生成的最新方法,指明了现有的缺陷和未来发展方向。

文本分类硬标签黑盒模型的对抗样本生成方法研究-郑俊怡

原创文章,作者:bfs,如若转载,请注明出处:https://www.isclab.org.cn/2024/11/27/%e6%96%87%e6%9c%ac%e5%88%86%e7%b1%bb%e7%a1%ac%e6%a0%87%e7%ad%be%e9%bb%91%e7%9b%92%e6%a8%a1%e5%9e%8b%e7%9a%84%e5%af%b9%e6%8a%97%e6%a0%b7%e6%9c%ac%e7%94%9f%e6%88%90%e6%96%b9%e6%b3%95%e7%a0%94%e7%a9%b6/

赞 (0)
bfsbfs
上一篇 2024年11月26日 下午3:19
下一篇 2024年11月27日 下午6:02

相关推荐

  • 文本安全

    动态规划——最小编辑代价 序列标注模型 命名实体识别简介 文本表示方法(一)——空间向量模型 文本表示方法(二)——潜在语义分析 文本表示方法(三)——topic models i…

    学术报告 2014年10月18日
    3.3K
  • 不规则多元时间序列预测研究

    时序数据预测任务是时间序列处理领域中一项基本的任务,根据历史时间段数据序列预测未来一段时间的数据序列,广泛应用于天气预报、经济预测、医疗保健预测等领域。在复杂的现实世界中,时序数据…

    2024年3月15日
    4.3K
  • 时空数据挖掘

    物联网技术和人工智能的快速发展,含时间、空间特性的数据指数增长。如何进行多源异构时空数据本身特性出发,和机器学习深度学习技术深入融合,实现数据实现知识发现和信息挖掘,服务于城市发展…

    2021年5月18日
    3.8K
  • 数据挖掘

    Bias-Variance trade-off 启发式参数优化算法举例 参数寻优:梯度下降/牛顿下降法 追根溯源 频繁项集算法分析 并查集算法及其在约束传递中的应用 Floyd解决…

    学术报告 2014年10月18日
    3.6K
  • 机器学习模型后门攻击检测

    本次学术报告简要介绍了人工智能系统面临的各种安全威胁,通过将对抗样本与后门攻击进行多方面比较,从而引入了机器学习模型后门攻击的原理和检测方法,以及后门攻击技术的应用领域。

    2021年8月22日
    4.3K
  • 走近特定音频识别(之三)—— 检索 Vs 识别

    在说明计算机如何进行特定音频识别这个问题之前,我们有必要对两个我们经常接触到的概念加以区分——“检索”和“识别”。     刚刚接触音频信号处理的朋友们常常会混淆这两个概念,本人刚…

    学术报告 2014年10月25日
    3.2K
  • 成员推理攻击和防御

    机器学习已经演化为了一种服务模式,即机器学习即服务模式。互联网公司或提供模型训练接口,或提供模型预测接口给用户以提供相应的服务。但是,在提供服务的整个过程中,机器学习模型不可避免的…

    2021年6月24日
    5.3K
  • Wireless Traffic Dataset for Krack and Kr00k Attacks in WPA2

    This report centers on the “Wireless Traffic Dataset for KRACK and Kr00k Attacks in …

    2025年9月28日
    3.5K
  • 特定安全攻防场景中的对抗样本生成方法

    最新的特定安全攻防场景可以细化为两个研究方向:匿名通信网络的网站指纹防御和僵尸网络的域名生成,以此来介绍对抗样本在防御任务和攻击任务中的应用。网站指纹攻击可以从网站中提取流量模式,…

    2021年7月26日
    4.1K
  • 机器学习中的数据不平衡问题

          数据不平衡问题是指一个类别的数据个数远远少于另一个类别的数据个数,通常这种问题被称为“数据不平衡”问题,在这…

    2018年12月17日
    3.4K