基于大模型微调的后门攻击

本学术报告围绕大模型微调中的后门攻击问题展开。内容涵盖:后门攻击的基本原理与主流微调方法;两种新型攻击技术的设计与危害分析;以及针对现有防御体系的不足与盲区,展望后门攻击的未来演进方向。报告旨在分享微调生态下的潜在风险,为后续相关安全研究提供技术梳理与启发思考。

2026060102424725

原创文章,作者:bfs,如若转载,请注明出处:https://www.isclab.org.cn/2026/06/01/%e5%9f%ba%e4%ba%8e%e5%a4%a7%e6%a8%a1%e5%9e%8b%e5%be%ae%e8%b0%83%e7%9a%84%e5%90%8e%e9%97%a8%e6%94%bb%e5%87%bb/

赞 (0)
bfsbfs
上一篇 2026年6月1日 上午10:41
下一篇 2026年6月8日 上午9:55

相关推荐

  • Padding–A CNN operation that cannot be ignored

    本次报告主要讲述了padding的种类及其影响,介绍了卷积网络的基本概念和性质、使用padding的主要原因等,详细讲解了特征偏移和信息侵蚀的概念、表现及解决方案,最后对paddi…

    2022年12月5日
    3.4K
  • 模型无关元学习

    元学习是人工智能领域继深度学习、深度强化学习、生成对抗之后,又一个重要的研究分支。模型无关元学(MAML)算法可以适用于多个领域,包括少样本的回归、图像分类,以及增强学习,并且使用…

    2020年3月9日
    4.1K
  • Transformer中的Multi-Head Attention

          注意力(Attention)机制被广泛应用到基于深度学习的自然语言处理(NLP)各个任务中。随着注意力机制的…

    2018年12月17日
    3.8K
  • 机器学习中的非凸优化

          机器学习模型可化简为求解一个目标函数/损失函数的最优化问题,根据优化目标及约束的不同,可划分为凸优化(Con…

    2019年6月24日
    4.7K
  • 针对文本嵌入模型的模型反演攻击方法研究

    研究针对文本嵌入模型的模型反演攻击,揭示了自然语言处理领域面临的隐私泄露风险。本次学术报告介绍了关于文本嵌入模型模型反演攻击的最新方法,并指明了现有的缺陷和未来发展方向。

    2024年11月5日
    3.7K
  • 命名实体识别简介

    2014年10月18日
    4.3K
  • 数据挖掘

    Bias-Variance trade-off 启发式参数优化算法举例 参数寻优:梯度下降/牛顿下降法 追根溯源 频繁项集算法分析 并查集算法及其在约束传递中的应用 Floyd解决…

    学术报告 2014年10月18日
    3.6K
  • 超图对比学习

    超图对比学习是一种利用超图结构来捕捉节点间复杂关系,并通过对比学习机制来优化节点表示的学习方法。本次报告通过两个算法,从超图增强技术、对比损失形式和对比训练策略三个方面介绍超图对比…

    2024年8月19日
    3.6K
  • DEEP-GAUSSIAN-MIXTURE-MODEL

    近年来,尽管针对监督任务的深度模型取得了巨大成功,但机器学习和统计学界对深度聚类方 法的研究有限。在这次学术报告中,我们将讨论深度高斯混合聚类,一个由经典高斯混合模型推广而来 的强…

    2019年10月27日
    3.8K
  • 无监督关键词提取方法介绍

    关键词提取技术是通过计算机程序从文档中自动提取重要性和主题性的词或短语的自动化技术,该技术在图书馆学、情报学和自然语言处理等领域应用广泛。目前关键词提取技术主要分为无监督和有监督这…

    2020年3月16日
    4.8K