打开「潘多拉工具箱」:北大、微信安全团队构建通用智能体全生命周期安全图景
打开「潘多拉工具箱」:北大、微信安全团队构建通用智能体全生命周期安全图景北京大学知识计算实验室(KCL)与腾讯微信安全技术团队联合发布综述论文《Pandora's Toolbox》,从来源、编排、执行和持久反馈生命周期系统梳理通用智能体安全风险、攻击、评测与防御技术,并提出统一分析框架。
搜索
北京大学知识计算实验室(KCL)与腾讯微信安全技术团队联合发布综述论文《Pandora's Toolbox》,从来源、编排、执行和持久反馈生命周期系统梳理通用智能体安全风险、攻击、评测与防御技术,并提出统一分析框架。
GEAR 可以让研究者像使用 Scikit-learn 一样模块化构建 RSI 算法。它将采样、候选评测和多样性管理所需的算法模块与并行推理等测评设施组织起来,使得 RSI 算法能够快速搭建、比较和复用。基于 GEPA(Genetic-Pareto)算法改进的实验结果证明,GEAR 调优的 Agent 在营销、客服和代码任务上均取得显著提升。
Firefly 在 NeurIPS 2026 提出“先探索、后出题”的训练数据合成流程,利用真实 MCP Server 和可离线复现的检索增强模拟器生成5,144个可验证任务,使 Qwen3-4B-Thinking-2507 的 pass@1 从28.1%升至41.5%。
Bo Liu课题组在NeurIPS 2026论文中发现,多Agent通信并非信息越充分越好,Qwen3-Next-80B-A3B向Qwen3.5-9B发送消息使ContextBench准确率提高14.2个百分点,却令ToolSandbox下降23.6个百分点,并提出无需重训模型的按需通信策略。
丹麦奥尔堡大学AI安全实验室与Seafill开源社区联合发表论文,通过tool calling方法从GPT-6 Astra等前沿闭源模型中提取出隐藏思维链,发现Astra采用类似"心算"的压缩推理方式,省略基础计算与代数变形等中间步骤而直接给出关键结论。
工具调用使大语言模型能够通过外部 API 获取信息、执行操作。训练这类能力,需要建立用户请求与具体函数调用之间的对应关系。一条合格的训练样本,不仅要符合函数定义,还要保证工具选择、调用次数和参数取值与用户意图一致。
Dify 正式推出全新 Agent 体验,将 Agent 从工作流中的执行节点升级为拥有独立配置与完整生命周期的独立实体,提供 Build、Manage、Track 三层能力及 Tool、Skill、Sandbox CLI 三种扩展方式,支持企业 AI Agent 跨场景复用与持续演进。
用户让 AI 编程助手写个贪吃蛇小游戏,智能体照办了,但同时多跑了一条 curl | bash 命令,把攻击者的脚本下载到本地并执行。
刚刚,DeepSeek 在官方 API 文档里给出了一个 thinking mode 和 tool call 结合使用的样例。表面上看,这只是一个常规的工具调用演示:用户提出问题,模型判断需要调用工具,工具返回结果后,模型再继续生成答案。
近日,「智能知识」(Human Intelligence)完成天使轮融资,由耀途资本、锦秋基金联合投资。本轮融资资金将用于两个方向:前沿数据品类扩张:深耕 Coding、Enterprise Office(GDPVal)、Agentic Tool Use 等高价值数据,并积极探索 AI4Math、AI4Science、AutoResearch 等新场景;