面向多智能体的传染性越狱

本报告围绕多智能体系统的传染性越狱安全风险展开,重点关注如何通过攻击单个智能体,利用多智能体间的通信、记忆检索与协作机制,将越狱效应在系统中指数级扩散。报告从多智能体架构、攻击面、研究现状出发,详细阐述了Agent Smith方法的理论推导、离线对抗图像生成算法以及大量实验验证(,说明传染性越狱在理想环境下具有高效性和普遍性,并指出未来需进一步关注在更真实架构、更高性能模型下的攻击演进,以及相应的内容来源标记、信任边界划分等防御机制

2026081709424160

原创文章,作者:bfs,如若转载,请注明出处:https://www.isclab.org.cn/2026/08/17/%e9%9d%a2%e5%90%91%e5%a4%9a%e6%99%ba%e8%83%bd%e4%bd%93%e7%9a%84%e4%bc%a0%e6%9f%93%e6%80%a7%e8%b6%8a%e7%8b%b1/

(0)
bfsbfs
上一篇 2026年8月17日 下午3:07
下一篇 2022年5月5日 上午10:34

相关推荐

  • 预训练在NLP的发展

    自从深度学习火起来后,预训练过程就是做图像或者视频领域的一种比较常规的做法,有比较长的历史了,而且这种做法很有效,能明显促进应用的效果。那预训练在自然语言处理中优势怎样发展起来的呢…

    2019年10月20日
    3.5K
  • 常用距离计算方法

      韩磊 2014/12/25

    2014年12月19日
    3.7K
  • 个性化学习路径推荐

    随着人工智能等新兴技术在教育中广泛应用,推动了学习方式的深刻变革。面对多元化的学习需求及海量学习资源, 如何迅速完成学习目标、降低学习成本、个性化分配学习资源等问题成为限制个人和时…

    2024年4月17日
    4.5K
  • 面向恶意软件检测系统的对抗样本攻击

    当下投入使用的恶意软件检测系统日益增多,但同时还带来了大量的安全问题,如何有效地提高恶意软件检测系统的鲁棒性变成当下重要的课题。在这里,从攻击者的角度入手,面向恶意软件检测系统,着…

    2020年5月24日
    4.2K
  • 函数级漏洞检测

    本次报告讲述漏洞检测相关基本概念,源码级漏洞检测的一般步骤,主要从关键点选取、代码切片、代码表示等几个方面讲解源码漏洞检测方法,主要针对泛化性、多类型漏洞检测问题进行研究。

    2022年10月30日
    3.2K
  • 属性缺失异质图神经网络

    本报告主要介绍属性缺失异质图神经网络,探讨了异质图研究领域的发展历程,详细介绍了属性缺失异质图的基本概念、常用处理方法以及两种前沿的属性补全异质图神经网络。

    2025年2月20日
    3.0K
  • 强化学生个性的知识追踪

    知识追踪是缓解基础教育普及需求和严重不足的教师数量之间矛盾的一个关键途径。目前,提高知识追踪的个性化水平是研究重点之一。本次报告介绍了两类强化学生个性的知识追踪技术,包括额外个性化…

    2023年12月27日
    3.0K
  • & Unsorted bin attack

          简单介绍了堆的管理与分配,主要讲述了堆上两种典型的攻击方式,即fast bin attack 和 Unsor…

    2019年1月15日
    3.3K
  • 网络表示学习-Deepwalk

          网络表示是衔接网络原始数据和网络应用任务的桥梁。网络表示学习算法负责从网络数据中学习得到网络中每个节点的向量…

    2019年3月18日
    3.2K
  • Android安全体系结构简介

    Android操作系统是一个开放式的操作系统,保护这样一个开放平台,需要强有力的安全体系结构。Android系统拥有多层次的安全机制,可以灵活地满足用户各层次的安全需求。    1…

    2014年10月21日
    4.4K