">

Gemini API 推出 Tool Retrieval 预览:按需加载工具参数,替大型工具库瘦身

Google 于 2026 年 11 月 19 日在 Gemini API 的 Interactions API 中以预览形式推出 Tool Retrieval:智能体不必在每次请求里塞进全部工具的参数结构,而是按需检索并加载。官方称这样可降低输入 token 与延迟,并在工具库变大时减少工具选择误差。该能力与远程 MCP 服务器和前缀缓存配合,支持服务端检索与客户端检索两种路线。本文按官方口径记录功能与边界,价格与配额以官网为准。

这次发布的是什么

Google 在 2026 年 11 月 19 日发布 Tool Retrieval,页面标题为「Introducing Tool Retrieval in the Gemini API」,官方博客 RSS 条目时间为当天 18:00 UTC。这是 Gemini API 面向开发者的一个能力更新,不是新模型发布。

官方给的状态写得很明确:该功能「now in preview in the Gemini Interactions API」,即仅在 Interactions API 中以预览形式提供。它解决的问题是,当智能体连接几十甚至上百个工具时,把每个工具的完整参数结构都塞进每次请求,会推高输入 token 数量、增加延迟,并随着候选列表变长而拉低工具选择准确率。Tool Retrieval 的做法是让完整工具库处于待命状态,只在当前任务需要时加载对应参数结构。

需要划清两条边界。其一,这是预览功能,官方没有写正式可用,本文也不替它升级表述。其二,官方提到该功能与远程 MCP 服务器配合,但那是 Gemini API 对 MCP 工具的加载方式更新,不等于 MCP 协议本身改版,站内既有 MCP 稿件仍然适用。

可用性与限制

  • 时间锚点:Google 官方博客页写 Nov 19, 2026,RSS pubDate 为 2026-11-19T18:00:00Z
  • 成熟度:官方写明 in preview,只在 Gemini Interactions API 中提供,未标正式可用
  • 模型范围:官方写支持 Gemini 3.6 及之后的模型,包含全部 Gemini 4 系列模型,示例用的是 gemini-4-hydrogen
  • 开启方式:在请求里加一个 tool_search 工具,并在需要延后加载的工具上把 defer_loading 设为 true
  • 服务端检索:默认由 Gemini 在服务端跑检索,开发者不用自己建索引或托管索引
  • 客户端检索:把 tool_search 的 execution 设为 client,由应用自己查注册表;官方注明每次检索会多一次往返
  • 远程 MCP:在 mcp_server 工具上设 defer_loading 为 true,该服务器暴露的工具会按需加载
  • 缓存配合:官方称延迟加载的结构不进入提示词开头,与前缀缓存配合时缓存前缀可保持稳定
  • 计费口径:官方写没有单独收费,输入与输出按所调用模型的标准费率计;开启检索会多一小段固定输入 token,价格以官网为准
  • 配额与区域:本次核对的页面未逐项列出速率限制与区域范围,以官网为准

主要功能

  • 在大型工具库里按需加载参数结构,减少每次请求的输入体积
  • 在单次 API 调用内完成工具检索、结构加载与函数调用三步
  • 把检索步骤写进 interaction.steps,便于排查工具名与描述问题
  • 支持把高频工具常驻、长尾工具延后加载的混合策略
  • 支持自建工具注册表或权限过滤的客户端检索路线
  • 支持远程 MCP 服务器下工具的逐项按需加载
  • 与前缀缓存协同,避免每轮对话重复改变缓存前缀

技术原理

从官方说明看,关键动作是把工具拆成两层:名字与描述始终对模型可见,参数结构则默认留在上下文之外。开发者在请求里加一个 tool_search 工具,并对希望延后的工具设置 defer_loading 为 true。模型仍知道有哪些工具可用,但当它需要某一个时,会先按名字请求,API 随即把完整参数结构载入,模型再发出函数调用。官方特别说明这三步都在同一次请求里完成,不需要应用额外发起一轮对话。

可观测性是这套设计的附带收益。官方示例里,一次调用产生的 steps 依次是 tool_search_call、tool_search_result 和 function_call,开发者可以直接看到模型检索了哪些工具名、拿到了什么结构、最后调用了哪个函数。官方称这让调试工具名与描述变得容易,因为检索决策被显式记录了下来。

检索位置有两种路线。默认是服务端路线,由 Gemini 负责搜索,开发者不用建索引或托管索引,代码改动只是新增一个工具和给目标工具加一个标志。如果应用自己维护工具注册表、嵌入索引或按用户做权限过滤,可以把 tool_search 声明为客户端执行,并自定义检索参数;官方明确这条路线每次检索会多一次往返,工具也不必一开始就声明,因此能在对话中途接入新工具。

对远程 MCP 服务器,官方给的做法是在 mcp_server 工具上打开 defer_loading,服务器上暴露的工具就全部按需加载,省去逐个列举。计费方面,官方说没有单独收费,但检索工具本身会带来一小段固定输入 token,被加载的结构在后续对话里也按输入计费;是否划算取决于那些从未被加载的结构是否足够多,官方建议用自己的流量去衡量。

实际体验

官方给出的示例是一个订单退款场景:工具库里有一个 issue_refund 函数和五十多个延后加载的函数,用户输入「订单 A-1042 到货破损,请退款」。模型在同一次调用里检索到 issue_refund,API 载入其参数结构,模型随即发出函数调用,参数里带订单号与金额。官方把这个过程写成可直接对照的 steps 结构,便于开发者在自己的环境里复现。

从官方描述看,启用门槛主要在两处:一是请求结构里要正确加入 tool_search,二是要给目标工具设置 defer_loading。官方没有提供控制台开关,路径是改 API 请求本身;如果用的是 Gemini 3.6 之前的模型,这项能力不适用。

值得注意的是官方自己给的权衡提示。它说当被延后且从未加载的结构多于实际加载的结构时,才会节省 token,并明确建议按自己的流量测量,而不是默认省。同理,客户端检索多一次往返的代价,在高延迟场景下需要和省下的 token 一起权衡。这些是官方写明的判断方法,不是本站实测结论。

项目地址与获取方式

  • 官方发布页:blog.google 上「Introducing Tool Retrieval in the Gemini API」一文
  • 接入入口:Gemini API 的 Interactions API,按官方说明在请求里添加 tool_search 并开启 defer_loading
  • 适用模型:官方写 Gemini 3.6 及之后的模型,含全部 Gemini 4 系列
  • 文档入口:以 Google 官方开发者文档中 Interactions API 的当前版本为准
  • 请通过官方渠道获取接口与密钥,避免经由第三方转接造成凭据泄露

适合谁用

  • 正在为智能体接入大量工具、且工具使用分布长尾的开发者
  • 关注输入 token 成本与首响延迟、希望减少无效上下文的工程团队
  • 已经接入远程 MCP 服务器、但不愿逐个列举海量工具的团队
  • 自建工具注册表、需要按用户权限动态过滤工具的平台方
  • 不必用的场景:工具数量很少、几乎每次都会用到大部分工具的应用,按需加载带来的收益有限,反而增加一次检索步骤

常见问题

Tool Retrieval 现在正式可用了吗?

不是。官方原话是「now in preview in the Gemini Interactions API」,只在 Interactions API 中以预览形式提供。本文按官方措辞记为预览,没有替它标注正式可用;后续阶段以官网更新为准。

它和 function calling 是什么关系?

官方把它描述为 function calling 的前置检索层。模型先按名字检索到需要的工具,API 载入完整参数结构,之后仍是正常函数调用,应用执行函数并回传结果。也就是说,它不是替代函数调用的新协议,而是在调用前决定加载哪部分结构。

需要自己搭建工具索引吗?

默认路线不需要。官方写明检索由 Gemini 在服务端完成,没有要建或托管的索引。只有在客户端检索路线下,也就是把 tool_search 的 execution 设为 client 时,才由应用自己查注册表或索引,代价是每次检索多一次往返。

它对 MCP 服务器有什么影响?

官方给的做法是在 mcp_server 工具上设置 defer_loading 为 true,服务器暴露的工具会按需加载,不必逐个列出。这是 Gemini API 一侧的加载方式变化,不等于 MCP 协议规范本身更新,接入方无需据此改动既有 MCP 服务器实现。

收费方式变了吗?

官方写没有单独收费,输入与输出按所调用模型的标准费率计算;开启检索会多一小段固定输入 token,加载的结构在后续对话中按输入计费。是否节省取决于实际工具使用分布,官方建议按自身流量衡量,具体价格以官网为准。

相关工具与内容

Related
快讯 13 小时前

AWS Quick 同日三组更新:插件打包智能体与技能,网页端与 Flows 打通跨端工作流

AWS 在 2026 年 11 月 20 日至 21 日连续发布三条 AWS Quick 更新:插件可把智能体、技能、连接器与流程打包成一次安装的单元;网页端把桌面体验搬进浏览器,并更新浏览器扩展与 Microsoft 365 加载项;Flows 支持用对话构建自动化,并加入确定性步骤与输出校验。官方用户指南说明 Quick 由 Amazon QuickSight 演进而来,原有 QuickSight 接口与集成继续可用。

前沿快讯 17 阅读
快讯 13 小时前

Amazon Bedrock 网页搜索新增五种语言与国别字段:按用户所在国偏置检索来源

AWS 于 2026 年 11 月 21 日宣布 Amazon Bedrock 的 Web Search 工具新增西班牙语、法语、德语、意大利语和日语,并支持非美式英语;同时加入可选的国家字段,用 ISO 3166-1 alpha-2 代码把检索来源偏置到指定国家。现有客户无需改代码即可获得语言能力,可用区域与数据驻留口径以官网为准。

前沿快讯 17 阅读

继续阅读:Amazon Polly 上线声音克隆:数分钟录音生成品牌音色,七种语言、需申请访问 · Gemini 应用 Mac 版上线 computer use:在后台替你操作本地应用与网页

关于本文:本站文章由编辑部独立撰写,评测口径与免责说明见关于我们。想继续找工具,可从分类导航按场景浏览,或回首页搜索。

链接已复制