面向LLM Agent的提示注入攻击

本报告聚焦大模型Agent提示注入攻击研究,重点解析CrossInject跨模态攻击与ToolHijacker工具劫持两大提示注入攻击框架,CrossInject首次实现“视觉+文本”的跨模态协同攻击,突破了单一模态的攻击局限;而ToolHijacker则聚焦工具选择模块,将攻击问题转化为一个优化问题,提出面向“检索+选择”双阶段协同优化算法,实现端到端的工具劫持。两者深刻揭示了Agent系统在多模态感知与工具调用维度的深层安全脆弱性,为构建下一代智能体安全防护体系提供了关键的攻击面参考。

2026062207452060

原创文章,作者:bfs,如若转载,请注明出处:https://www.isclab.org.cn/2026/06/22/%e9%9d%a2%e5%90%91llm-agent%e7%9a%84%e6%8f%90%e7%a4%ba%e6%b3%a8%e5%85%a5%e6%94%bb%e5%87%bb/

赞 (1)
bfsbfs
上一篇 2026年6月18日
下一篇 2026年7月6日

相关推荐

  • 基于协同过滤的推荐算法

          推荐系统在现在的生活中随处可见,淘宝天猫的商品推荐,音乐软件的每日歌曲推荐等,协同过滤就是一种很受欢迎的推荐…

    2018年8月27日
    3.5K
  • 内存分段和常见段错误

          段错误(segmentation fault)是我们在Linux下编程以及在线提交代码常见的错误。本次学术报…

    2018年7月25日
    3.0K
  • 深度神经网络模型窃取防御方法

    模型窃取防御技术能够促进深度神经网络的健康发展,推动数据交流与共享。本次报告从大范围的模型窃取防御领域,聚焦到一类算法,从数学公式上对算法进行详细的分析,并对实验结果进行详细解读,…

    2023年9月27日
    3.6K
  • 差分隐私原理及应用

    大数据时代隐私泄露成为了一个严重的问题,大量的个人信息在网上传播。另一方面大数据时代对数据的可用性也有一定的要求。因此当前如何在保障用户的隐私的同时,提供一定的可用性成为一个关键问…

    2020年5月17日
    5.0K
  • Dropout随机失活

    具有大量参数的深度神经网络是非常强大的机器学习系统。然而,在这样复杂的网络中,过拟合的问题难以解决。复杂的网络结构和缓慢的运行速度导致我们很难在测试时通过组合许多不同大型神经网络的…

    2022年1月21日
    3.3K
  • & Unsorted bin attack

          简单介绍了堆的管理与分配,主要讲述了堆上两种典型的攻击方式,即fast bin attack 和 Unsor…

    2019年1月15日
    3.5K
  • 基于因果推理的对抗防御方法

    基于因果推理的对抗防御方法通过因果干预、特征解耦与不变性学习,识别并强化数据中的因果特征,抑制模型对伪相关与“捷径特征”的依赖,从而在机理上增强模型的泛化能力和抗干扰能力,使其在遭…

    2025年11月10日
    3.5K
  • 动态规划——最小编辑代价

    1.问题描述 上一次说了最小编辑距离,这次在这上面加一点料,a1、a2和a3每次操作的代价不同了,加入了每个操作的代价,这下问题变为,针对字符串a和字符串b定义三种操作,a1、a2…

    学术报告 2015年11月9日
    3.6K
  • 语义级代码克隆检测

    代码克隆(Code Clone),是指存在于代码库中两个及两个以上相同或者相似的源代码片段, 是软件开发中的常见现象。近年来,针对Ⅳ型克隆即语义级克隆的检测技术受到了广泛关注。主要…

    2022年10月11日
    4.0K
  • App个人隐私安全检测技术

    本报告主要介绍了隐私数据类型,以及基本的隐私风险检测方法。第一篇论文侧重于分析APP整体的隐私数据泄露,并根据隐私泄露的风险程度给相应的App进行风险评级;第二篇侧重于研究APP中…

    2022年4月11日
    4.3K