检索增强生成系统的知识投毒攻击

本报告围绕RAG系统知识投毒攻击展开:PoisonedRAG首次揭示知识库投毒攻击面,提出”检索条件+生成条件”的启发式分解框架;Joint-GCG在此基础上实现检索器与生成器的统一梯度联合优化,显著提升攻击效果并验证了跨模型可迁移性。

2026051813142014

原创文章,作者:bfs,如若转载,请注明出处:https://www.isclab.org.cn/2026/05/18/%e6%a3%80%e7%b4%a2%e5%a2%9e%e5%bc%ba%e7%94%9f%e6%88%90%e7%b3%bb%e7%bb%9f%e7%9a%84%e7%9f%a5%e8%af%86%e6%8a%95%e6%af%92%e6%94%bb%e5%87%bb/

(0)
bfsbfs
上一篇 2026年5月18日 下午12:12
下一篇 2026年5月31日

相关推荐

  • 词向量计算——word2vec算法理解

    魏超2014.11.2

    2014年11月4日
    3.2K
  • 用户画像建模

    本次报告介绍了用户画像建模的相关基本概念,以及用于短文本处理的用户画像构建LDA-RCC组合模型。基本概念包过用户画像的作用、构建过程、分类等。LDA-RCC组合模型解决了传统文本…

    2021年3月9日
    3.4K
  • Web应用模糊测试技术

        模糊测试是一种通过提供非预期的输入并监视异常结果来发现软件故障的方法。Web应用对于软件提供商和终端用户都具有优越性,针对Web应用…

    学术报告 2017年11月13日
    3.2K
  • 基于网络流量的设备识别

    介绍了设备识别的发展历史、各层协议的特征及其优劣性,对两篇关于内网、外网识别的高水平文献进行了讲解,对比了设备识别的主要研究方向,以期帮助初学者快速了解领域内的动态及发展前景。

    2020年10月8日
    4.4K
  • 面向攻击溯源的日志处理技术

    日志生成的系统溯源图能够记录实体的依赖关系,通过溯源图的后向跟踪和前向跟踪,可实现攻击的溯源。但是随着溯源深度的增加,上下游实体之间的依赖关系呈现指数级爆炸,无法有效溯源。本次学术…

    2022年8月23日
    3.7K
  • 从图视角理解多智能体系统安全

    多智能体系统安全是当前人工智能研究中的重要方向,与系统稳定性、信息可信性及防御能力密切相关,但现有研究多集中于单智能体输入输出过滤或局部安全策略,难以刻画复杂交互网络中的全局风险传…

    2026年4月13日
    4.0K
  • 机器学习中的数据不平衡问题

          数据不平衡问题是指一个类别的数据个数远远少于另一个类别的数据个数,通常这种问题被称为“数据不平衡”问题,在这…

    2018年12月17日
    3.2K
  • 在线集成学习

          本次学术报告介绍了集成学习和在线学习基本思想,对离线bagging(装袋)和离线boosting(提升)的基…

    2019年7月1日
    4.0K
  • 大规模多标签分类方法

    近年来,随着互联网技术的高速发展和数据规模的快速增长、大数据的应用,多标签分类应用场景越来越多,如电子商务中的商品分类、网页标签、新闻标注、蛋白质功能分类、音乐分类、语义场景分类等…

    2020年12月13日
    5.2K