面向多智能体的传染性越狱

本报告围绕多智能体系统的传染性越狱安全风险展开,重点关注如何通过攻击单个智能体,利用多智能体间的通信、记忆检索与协作机制,将越狱效应在系统中指数级扩散。报告从多智能体架构、攻击面、研究现状出发,详细阐述了Agent Smith方法的理论推导、离线对抗图像生成算法以及大量实验验证(,说明传染性越狱在理想环境下具有高效性和普遍性,并指出未来需进一步关注在更真实架构、更高性能模型下的攻击演进,以及相应的内容来源标记、信任边界划分等防御机制

原创文章,作者:bfs,如若转载,请注明出处:https://www.isclab.org.cn/2026/08/17/%e9%9d%a2%e5%90%91%e5%a4%9a%e6%99%ba%e8%83%bd%e4%bd%93%e7%9a%84%e4%bc%a0%e6%9f%93%e6%80%a7%e8%b6%8a%e7%8b%b1/

赞 (0)
bfsbfs
上一篇 2026年8月17日 下午3:07
下一篇 2026年8月24日 上午11:41

相关推荐

  • 文本安全

    动态规划——最小编辑代价 序列标注模型 命名实体识别简介 文本表示方法(一)——空间向量模型 文本表示方法(二)——潜在语义分析 文本表示方法(三)——topic models i…

    学术报告 2014年10月18日
    3.3K
  • 强化学习中的信用分配

    本报告围绕强化学习中的“信用分配”难题,系统梳理了延迟/稀疏奖励场景下如何精准识别关键动作的研究脉络, 介绍LaRe与VinePPO两项新工作 ,分别利用大模型先验与无偏采样提升奖…

    2026年1月12日
    4.5K
  • 对抗性扰动下的后门防御方法

    后门防御旨在使用神经元剪枝、知识蒸馏等手段消除模型中隐藏的后门,阻止攻击者使用触发器样本控制深度学习模型的输出。本次学术报告主要讲解了两种以对抗性扰动和后门攻击关系为基础的后门防御…

    2024年1月17日
    4.4K
  • 词向量计算——word2vec算法理解

    魏超2014.11.2

    2014年11月4日
    3.5K
  • 纵向联邦学习标签推理防御方法

    本报告围绕纵向联邦学习中的标签推理防御,分析被动方利用梯度和中间表示推断私有标签的机制,介绍基于标签压缩的LCD与基于因果混淆的Casper,结合实验结果讨论标签隐私保护与主任务性…

    2026年11月9日
    220
  • 机生文本检测中的对抗攻击与鲁棒防御

    大语言模型生成文本规模持续扩大,释义改写、词语替换和字符扰动等对抗攻击削弱了检测可靠性。本次学术报告聚焦机生文本检测攻防对抗,系统介绍基于释义逆变换与动态对抗训练的鲁棒防御方法,分…

    2026年7月20日
    1.6K
  • Android应用安全检测

        Android应用在开发和发布初期可能存在各种原因导致的隐藏安全风险,这些安全风险如若不进行检测和修复,会给用户和开发者带来巨大的损…

    学术报告 2017年11月20日
    3.6K
  • 操作系统结构与内核安全基础

      虽然每个电脑使用者都听说过操作系统,但是大部分人对于操作系统的结构,以及平时计算机安全领域常常提到的“操作系统内核”是十分陌生的。  本次学术报告为大家讲解了操作系统最基本的结…

    学术报告 2017年8月30日
    4.0K
  • 如何优雅地开发

    如何优雅地进行项目开发应该是程序员开发一个项目首先考虑的事情,优雅地开发意味着高效率的进行开发。本次报告从优雅地编码、优雅地使用开发工具以及优雅地使用协作工具三个方面来介绍如何进行…

    2019年12月23日
    4.9K
  • 深度半监督聚类技术

    研究深度半监督聚类方法,首先利用自编码器对高维数据降维处理,同时提取构建三种范围的约束信息:主动构建的成对约束、带标签的种子约束、簇间大小比例约束;最后融合三种约束信息指导编码器训…

    2023年4月23日
    3.9K