面向LLM Agent的提示注入攻击

本报告聚焦大模型Agent提示注入攻击研究,重点解析CrossInject跨模态攻击与ToolHijacker工具劫持两大提示注入攻击框架,CrossInject首次实现“视觉+文本”的跨模态协同攻击,突破了单一模态的攻击局限;而ToolHijacker则聚焦工具选择模块,将攻击问题转化为一个优化问题,提出面向“检索+选择”双阶段协同优化算法,实现端到端的工具劫持。两者深刻揭示了Agent系统在多模态感知与工具调用维度的深层安全脆弱性,为构建下一代智能体安全防护体系提供了关键的攻击面参考。

2026062207452060

原创文章,作者:bfs,如若转载,请注明出处:https://www.isclab.org.cn/2026/06/22/%e9%9d%a2%e5%90%91llm-agent%e7%9a%84%e6%8f%90%e7%a4%ba%e6%b3%a8%e5%85%a5%e6%94%bb%e5%87%bb/

赞 (1)
bfsbfs
上一篇 2026年6月18日
下一篇 2026年7月6日

相关推荐

  • 日志数据的深度学习异常检测方法

    本报告介绍了利用系统的日志数据进行异常检测所面临的挑战,给出了日志数据分类、用途、实例等基本概念和基础知识,并对日志数据的解析处理和利用日志数据进行异常检测的高水平文献算法进行了详…

    2021年9月23日
    4.1K
  • 模型窃取防御:从被动溯源到主动防御

    本次学术报告探讨模型窃取防御方法,重点介绍两种前沿防御方案。ModelShield采用自适应鲁棒水印技术,通过查询响应分布自动注入水印,实现被动溯源与版权验证;QUEEN则基于查询…

    2025年12月8日
    4.1K
  • 浅谈TCP/IP协议栈

    本次报告从TCP/IP四层模型出发,讲解了分层模型的原理和意义,并系统地从底层到顶层分别讲解了数据链路层、传输层和网络层这三层的主要协议和这些协议的实现原理。通过此次学术报告可以清…

    2020年1月12日
    4.1K
  • 融合多模态交互及语义一致性建模的社交机器人检测

    社交机器人模仿人类在Twitter等社交平台上的行为。数以百万计的机器人通常基于平台API,通过自动化程序控制,通过模仿真实用户以实现恶意目标,检测社交机器人对于净化网络空间环境具…

    2023年7月14日
    3.9K
  • 隐私保护的领域自适应迁移学习方法

    本报告讲述了隐私计算技术体系的整体架构及主要理论,给出了迁移学习及领域自适应问题的基本概念,通过详细介绍隐私保护政策下最新的去中心化无监督领域自适应论文以及基于隐私保护的模型联邦个…

    2021年10月11日
    3.7K
  • 学术论文评审意见生成方法研究

    学术论文投稿数量的不断增长带来巨大审稿压力,而人工智能和大数据的发展为学术论文自动化评审提供了契机。本次学术报告介绍了学术论文评审意见生成的两种最新方法,为减轻审稿人负担、提高评审…

    2025年9月22日
    3.6K
  • 程序崩溃的故障定位方法

    程序崩溃的故障定位方法通过统计调试或符号执行,自动推断出程序崩溃的根本原因。本次报告介绍了1个基于符号执行的方法、1个结合统计调试和符号执行的方法,旨在提高故障定位的准确性与效率,…

    2025年1月12日
    3.4K
  • 无监督数据增强研究

          面对渴求大量数据的深度学习,数据扩增方法可以缓和一部分需求,但数据扩增方法往往只应用在有监督学习设定中,带来…

    2019年7月28日
    3.7K
  • 对抗环境强化学习

    强化学习(Reinforcement learning ,RL )是机器学习领域之一,研究如何通过一系列的顺序决策来达成一个特定目标。本次报告从强化学习的基本框架开始,介绍了强化学…

    2019年12月17日
    3.7K
  • 基于视觉直觉的源代码表征

    源代码表征是软件工程中的一个重要研究领域,主要关注如何有效地将源代码转化为可以支持各种软件工程任务(如代码搜索、克隆检测、代码自动生成等)的数学模型或数据结构。这些表征通常需要捕获…

    2024年9月23日
    3.6K