检索增强生成系统的知识投毒攻击

本报告围绕RAG系统知识投毒攻击展开:PoisonedRAG首次揭示知识库投毒攻击面,提出”检索条件+生成条件”的启发式分解框架;Joint-GCG在此基础上实现检索器与生成器的统一梯度联合优化,显著提升攻击效果并验证了跨模型可迁移性。

2026051813142014

原创文章,作者:bfs,如若转载,请注明出处:https://www.isclab.org.cn/2026/05/18/%e6%a3%80%e7%b4%a2%e5%a2%9e%e5%bc%ba%e7%94%9f%e6%88%90%e7%b3%bb%e7%bb%9f%e7%9a%84%e7%9f%a5%e8%af%86%e6%8a%95%e6%af%92%e6%94%bb%e5%87%bb/

赞 (0)
bfsbfs
上一篇 2026年5月18日 下午12:12
下一篇 2026年5月31日

相关推荐

  • 多人协作开发Git使用介绍

    本报告介绍多人协作开发中Git的使用,通过讲述版本控制的概念和比对不同版本控制的区别,详细阐述Git底层工作原理及Git多人协作流程和核心用法,掌握Git相关基本知识及Git的核心…

    2023年2月6日
    3.5K
  • 动态异质图神经网络

    本次报告围绕动态图神经网络的最新研究进展展开,重点探讨其在处理时序图数据中的关键技术与应用。报告首先介绍了动态图的结构特性与建模挑战,随后系统分析了主流动态图神经网络架构的设计思想…

    2025年7月10日
    4.2K
  • & Unsorted bin attack

          简单介绍了堆的管理与分配,主要讲述了堆上两种典型的攻击方式,即fast bin attack 和 Unsor…

    2019年1月15日
    3.5K
  • 源代码补丁正确性测试

    源代码补丁正确性测试是自动程序修复(Automated Program Repair, APR)流程的最后一个环节,旨在验证APR所生成的补丁是否真正解决了目标缺陷且未引入新的问题…

    2025年3月10日
    3.8K
  • 融合多模态交互及语义一致性建模的社交机器人检测

    社交机器人模仿人类在Twitter等社交平台上的行为。数以百万计的机器人通常基于平台API,通过自动化程序控制,通过模仿真实用户以实现恶意目标,检测社交机器人对于净化网络空间环境具…

    2023年7月14日
    3.8K
  • Android消息机制

    Android消息机制,主要讲解Android系统内部不同线程之间的信息交互,具体介绍了MessageQueue、Looper和Handler三者之间的交互和各自的原理。 附件-A…

    学术报告 2018年4月3日
    3.8K
  • 在线集成学习

          本次学术报告介绍了集成学习和在线学习基本思想,对离线bagging(装袋)和离线boosting(提升)的基…

    2019年7月1日
    4.2K
  • 多示例多标记学习

        本次学术报告主要讲解了多示例多标记学习(Multi-Instance Multi-Label learning),主要对多示例多标记…

    学术报告 2018年3月11日
    3.5K
  • 组合对抗攻击的自动化搜索方法

    对抗攻击是当下智能系统的新威胁,它使得很多在现实世界中应用的智能系统存在的安全漏洞极大地暴露了出来。近年来,学界提出了多种实现对抗攻击的方法,但是在不知道目标模型的防御细节的情况下…

    2021年5月6日
    4.0K
  • 人工智能模型的谈忘学习方法

    遗忘学习被称为机器遗忘或取消学习,是指机器学习或深度学习系统中先前获取的知识随着时间推移而退化的现象。本次学习报告的主要讲解了两种人工智能模型的遗忘学习方法,遗忘训练数据中的特定样…

    2024年11月5日
    3.9K