智能体安全-工具调用攻击与防御

报告围绕智能体工具调用安全展开,介绍智能体工作原理及其与传统AI模型、大模型安全的联系与区别,分析工具调用带来的新型攻击面。重点结合AutoCMD与ToolSafe,讲解动态工具调用攻击及执行前逐步安全防御方法,并总结当前研究特点与未来发展方向。

2026091402193015

原创文章,作者:bfs,如若转载,请注明出处:https://www.isclab.org.cn/2026/09/14/%e6%99%ba%e8%83%bd%e4%bd%93%e5%ae%89%e5%85%a8-%e5%b7%a5%e5%85%b7%e8%b0%83%e7%94%a8%e6%94%bb%e5%87%bb%e4%b8%8e%e9%98%b2%e5%be%a1/

赞 (0)
bfsbfs
上一篇 2026年9月10日 上午8:00
下一篇 2026年9月21日 上午10:08

相关推荐

  • 代码变更表示学习及其应用研究

    代码变更指对软件源代码的增加,删除,修改。软件项目的代码库可以视为一系列代码变更的有序组合,因此代码变更对理解代码库和分析软件演化过程十分重要。代码变更表示学习旨在将代码变更表示为…

    2023年7月19日
    3.7K
  • 二进制代码开源成分分析

    二进制代码-源代码匹配是信息安全领域的重点研究方向之一。在给定二进制代码的情况下,逆向分析研究人员希望找到它对应的源代码,从而提升逆向分析的效率和准确率。但由于源代码和二进制代码的…

    2022年6月27日
    4.4K
  • 即时缺陷预测技术研究

    本报告讲述了即时软件缺陷预测领域的基本概念,通过详细介绍集成了专家特征和语义特征的变更级软件缺陷预测和缺陷定位模型,启发思考通过结合专家特征和代码行上下文语义特征,提高变更级软件缺…

    2022年12月13日
    3.8K
  • Linux高级网络配置

          Linux系统强大的网络配置能力使得Linux能够工作在各种复杂网络环境下并提供各种稳定的服务。本次报告介绍…

    2019年5月13日
    3.7K
  • 简述对抗样本检测方法

          对抗样本会的存在严重威胁到机器学习模型的输出准确性。目前最常用的对抗样本生成方法是FGSM,其通过在沿着损失…

    2018年10月17日
    5.6K
  • 动态网络嵌入方法研究

    传统的网络表示一般使用高维的稀疏向量,但是局限在于难以度量节点间的相似性,而一般的静态网络嵌入方法,忽略网络的动态演化过程,因此提出了基于动态网络的嵌入方法学习。本次将基于深度自编…

    2021年6月14日
    3.7K
  • 小样本命名实体识别

    在很多场景下,收集大量的有标签的数据是非常昂贵、困难、甚至不可能。因此在特定领域、小语种等缺乏标注资源的情况下,NER 任务往往得不到有效解决。为了解决少量标注数据的命名实体识别,…

    2023年8月30日
    3.6K
  • 深度学习优化算法概述

        优化问题是机器学习的核心和本质。在深度学习中,即使有完全相同的数据集和模型框架,使用的优化算法不同,所得到的训练结果也可能不同。深度…

    学术报告 2018年1月22日
    3.6K
  • 大模型指导的内核模糊测试

    本报告阐述了大模型在内核模糊测试中的应用,介绍了 KernelGPT 和 ECG 两种技术。KernelGPT 自动推断系统调用规范,显著提升漏洞发现效率;ECG 结合静态分析与大…

    2025年6月23日
    3.9K
  • 时空数据挖掘

    物联网技术和人工智能的快速发展,含时间、空间特性的数据指数增长。如何进行多源异构时空数据本身特性出发,和机器学习深度学习技术深入融合,实现数据实现知识发现和信息挖掘,服务于城市发展…

    2021年5月18日
    3.8K