面向LLM Agent的提示注入攻击

本报告聚焦大模型Agent提示注入攻击研究,重点解析CrossInject跨模态攻击与ToolHijacker工具劫持两大提示注入攻击框架,CrossInject首次实现“视觉+文本”的跨模态协同攻击,突破了单一模态的攻击局限;而ToolHijacker则聚焦工具选择模块,将攻击问题转化为一个优化问题,提出面向“检索+选择”双阶段协同优化算法,实现端到端的工具劫持。两者深刻揭示了Agent系统在多模态感知与工具调用维度的深层安全脆弱性,为构建下一代智能体安全防护体系提供了关键的攻击面参考。

2026062207452060

原创文章,作者:bfs,如若转载,请注明出处:https://www.isclab.org.cn/2026/06/22/%e9%9d%a2%e5%90%91llm-agent%e7%9a%84%e6%8f%90%e7%a4%ba%e6%b3%a8%e5%85%a5%e6%94%bb%e5%87%bb/

(0)
bfsbfs
上一篇 2026年6月18日
下一篇 2026年7月6日

相关推荐

  • 基于突变的模糊测试

    基于突变的模糊测试对于漏洞检测能力的开发和测试资源的利用较为重要,为了快速、高效地寻找到待测程序中的缺陷,需要提高模糊测试过程的测试效率。本次报告为大家介绍了基于突变的模糊测试的基…

    2024年6月19日
    3.0K
  • 缓冲区溢出漏洞浅析

    1.认识漏洞   1.1.漏洞的定义 百度:漏洞是在硬件、软件、协议的具体实现或系统安全策略上存在的缺陷,从而可以使攻击者能够在未授权的情况下访问或破坏系统。 Wikip…

    2014年10月21日
    4.2K
  • 模型无关元学习

    元学习是人工智能领域继深度学习、深度强化学习、生成对抗之后,又一个重要的研究分支。模型无关元学(MAML)算法可以适用于多个领域,包括少样本的回归、图像分类,以及增强学习,并且使用…

    2020年3月9日
    3.8K
  • Web应用漏洞挖掘技术研究

    该报告系统探讨了基于黑盒扫描的Web应用漏洞挖掘技术。报告重点分析了两项前沿工作:YuraScanner利用大语言模型(LLM)理解网站功能并自主执行任务流,以探索传统扫描器难以触…

    2026年4月27日
    3.1K
  • MySQL事务机制

          事务是MySQL数据库用户保证一组sql操作的完整性的一种机制,确保一组操作能够全部成功或者全部失败,不会出…

    2018年11月2日
    3.1K
  • 虚拟化安全监控技术小结

    Virtualization-based Monitoring Virtualization-based Monitoring 是指利用虚拟化技术对上层虚拟机进行监控或者保护。通常…

    2014年11月14日
    3.9K
  • 大模型赋能的渗透测试技术

    本次报告围绕大模型赋能的渗透测试技术展开,首先阐述了渗透测试的基本概念、研究背景和研究意义,然后介绍了传统自动化渗透测试方法的特点与优劣势,并介绍了大模型赋能的渗透测试方法的研究现…

    2025年5月13日
    4.3K
  • 面向联邦学习的后门攻击检测与防御

    聚焦联邦学习与联邦图学习场景下的后门攻击检测与防御,概述分布式隐私保护训练中的隐蔽后门风险、Non-IID数据异构挑战与现有防御方法局限;重点介绍FedID基于曼哈顿距离、欧氏距离…

    2026年7月6日
    999
  • AI模型计量&图增强的幻觉检测

    本次报告以小米SU7等案例引入AI模型计量,概述计量内涵、发展现状与指标体系,并梳理数据评测、算法评测与人工评测方法;进一步聚焦图增强幻觉检测,讲解LapEigvals注意力谱特征…

    2026年3月2日
    2.7K
  • 序列标注模型

    背景知识 序列标注模型被广泛应用于文本处理相关领域,例如分词、词性标注、命名实体识别等方面。现有的序列标注模型主要有HMM,MEMM 以及 CRF,通过对这几种自然语言处理中常用的…

    2015年2月2日
    3.7K