本报告探讨了大语言模型智能体工具调用机制中的安全漏洞，重点分析了两种新型攻击方法。AMA攻击通过黑盒迭代优化恶意工具的元数据，使其在语义合法的前提下显著提升被智能体选择的概率，在多种开源和闭源模型上实现了极高的攻击成功率，同时保持任务完成率，且对传统防御手段有效。ToolCommander则通过注入恶意工具并利用真实用户查询进行闭环优化，实现隐私窃取、拒绝服务和非计划工具调用，验证了工具检索与执行流程的脆弱性，揭示了智能体系统的新攻击面
2026012613023775原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2026/01/26/%e6%99%ba%e8%83%bd%e4%bd%93%e7%9a%84%e5%b7%a5%e5%85%b7%e8%b0%83%e7%94%a8%e6%94%bb%e5%87%bb/
韩磊 2014/12/25
深度神经网络在图像识别、语音处理以及机器翻译等领域具有良好的预测性能，但是由于深度神经网络对决策结果可解释性的缺乏以及解决训练开销而寻求的外包训练的安全难以有效保证，都导致深度神经…
详细介绍Git的原理、初级和进阶用法
程序崩溃的根本原因分析技术旨在通过分析崩溃时的输入数据，自动推断并定位导致崩溃的根本原因所在的位置，辅助开发人员快速修复软件缺陷。本次报告介绍了2个利用谓词进行程序崩溃的根本原因分…
Linux系统是大多数人常见但又不熟悉的操作系统，其在软件安装于使用方法上与Windows有较大的差异。本次…
本次报告介绍了web项目开发方法，展示了在web开发过程中前后端分离与前后端不分离两种开发模式的基本流程以及优缺点，然后大致介绍了前端与后端各自常用的web框架，最后具体介绍了对外…
简介：神经网络算法在自然语言和计算机视觉等领域取得了快速发展和成熟应用，且在程序分析领域也具有广泛应用，如代码克隆检测、程序分类、漏洞分析和代码搜索等任务。然而不同的程序源代码表示…
本次学术报告对实验室以往在源代码漏洞检测方向的积累做一个总结，展望未来的发展方向，从技术和应用两个视角审查当前源代码漏洞检测面临的问题。进一步从泛化性、细粒度漏洞检测两个方面进行论…
跨语言词向量(corss-lingual word embeddings)是一种的对单语言环境下的模型进行多语言扩展的有效手段。通过…
Virtualization-based Monitoring Virtualization-based Monitoring 是指利用虚拟化技术对上层虚拟机进行监控或者保护。通常…
