Vercel 于 2026 年 11 月 16 日宣布 AI Gateway 支持 Private Inference:把自建、微调或尚未公开的模型端点接到 AI Gateway,与目录模型共用同一套鉴权、SDK 与可观测性。官方说明私有模型以 private/ 开头的标识调用,只在所属团队内可见、不进公开目录,凭据加密保存,可按提供方开启零数据留存;支持 Chat Completions、Responses 与 Messages 三类调用形态,可接入编码智能体,并允许在私有端点失败时回退到目录模型。官方页写 can now run through,未标 GA 或 beta,本文两边都不写。同日 Vercel 另有一条含折扣百分比的模型上架公告,按硬约束不成篇。计费、配额与可选档位一律以官网为准。
Vercel AI Gateway 支持 Private Inference:自有模型端点接进统一网关
这次发布的是什么
Vercel 于 2026 年 11 月 16 日在官方 changelog 宣布,AI Gateway 现在支持 Private Inference:把自己运行的模型端点接到 AI Gateway 上。按官方页的说法,企业里跑微调模型、自托管模型或尚未公开的模型,过去需要单独准备密钥、客户端代码与日志;现在这些模型可以与目录里的模型共用同一套鉴权、SDK 与接口,以及同一套可观测性,团队用到的模型集中在一个地方管理。
需要先划清几条边界。其一,这不是一次新模型发布:官方页写的是把已有端点接入网关,模型本身由使用者自己提供,Vercel 没有在本次公告里发布新模型,站内已有的多篇 AI Gateway 上架稿都属「第三方平台新增模型选项」,与本条不同。其二,官方页没有标注 GA 或 beta 一类的成熟度标签,本文不替它断言阶段,只按官方措辞记为「现在可以接入」。其三,同日 Vercel 的更新流里另有一条模型上架且带折扣百分比的公告,按本站硬约束不转述折扣数字,整条不成篇,不要与本条混为一次发布。其四,官方页提到支持的模型类型、要求与计费细节要另看文档,本次没有把这些当作已逐条核实的事实,正文只写官方 changelog 里能确认的部分。
可用性与限制
- 记录时间:官方 changelog 页内写 16 Nov 2026;Vercel 更新流时间戳为 2026-11-16T07:47:00Z
- 发布状态:官方写 can now run through,属现在可用的能力;官方页未标 GA 或 beta,本文两边都不写
- 接入对象:自建、微调、自托管或尚未公开的模型端点,由使用方自行提供
- 可见范围:私有模型只在所属 Vercel 团队内可查看与调用,不列入公开模型目录
- 凭据:官方写凭据加密保存,并可按提供方开启零数据留存
- 调用形态:支持 Chat Completions、Responses 与 Messages,网关负责把请求转换成端点所需的格式
- 命令行门槛:官方给出 Vercel CLI 的版本下限,具体版本号与配置方法以官方当前文档为准
- 回退:可选地在私有端点失败时回退到某个目录模型,属可配置项,不是默认行为
- 未核实项:支持的模型类型、接入前置条件与计费细节,官方指向文档,本文未逐条核实,以官网为准
- 未给出项:地区、配额、套餐档位与完整参数表,官方 changelog 未逐项展开,以官网为准
主要功能
- 把自有模型端点注册为 AI Gateway 的私有提供方
- 用 private/ 开头的模型标识调用私有模型
- 在私有模型与目录模型之间切换时只改模型标识
- 让私有模型与目录模型共用同一套鉴权、SDK 与接口
- 把私有模型限定在团队范围内,不进公开目录
- 加密保存凭据,并可按提供方开启零数据留存
- 在 Claude Code、Codex、Cursor 等编码智能体里使用私有模型
- 把私有模型的请求与目录流量一起放进日志、追踪导出与自定义报表
- 在可观测性图表里按私有模型查看请求、token 与首 token 时间
- 可选配置失败时回退到目录模型
技术原理
按官方 changelog,这次变化发生在网关的提供方抽象层,而不是模型层。使用方先在 Private Inference 页面或命令行里注册一个私有提供方,填入端点的基础地址、选择接口格式并添加凭据,再登记该端点所提供的模型;之后调用时用一个 private/ 开头的模型标识来指向它。官方写的是:调用方仍然走 Chat Completions、Responses 或 Messages 这几种既有形态,由网关把请求翻译成端点要求的格式,因此在私有模型与目录模型之间切换,改变的只是模型标识。这意味着对上层应用来说,这不是换一套接口,而是多了一类可指向的模型来源。
可见性与凭据是这一层的另一半。官方写私有模型只有所属 Vercel 团队能查看和调用,不会出现在公开模型目录里;凭据加密保存,零数据留存可按提供方单独开启。这里要按「可配置」理解,而不是默认全部开启:官方用的是可以启用这样的措辞,本文不替它断言默认状态。
可观测性侧,官方把私有模型的请求与目录流量并列放进日志、追踪导出与自定义报表,图表按私有模型拆分请求量、token 与首 token 时间。回退也是可选项:在私有端点失败时可以让请求落到某个目录模型,官方在示例里把它写成providerOptions 里的一个可选配置,不是自动生效的策略。官方 changelog 没有展开网关内部的路由与鉴权实现、端点格式的完整清单或转译规则,本文不补未核实的实现细节;要看参数、格式与配置方法,以官方当前文档为准。
实际体验
这里能核对的是官方 changelog 页与其链接的入口,不是本站的实测结论。复核路径有三条:到 changelog 页看日期、能力描述与五条用途说明;顺着页内的 Private Inference 文档入口看支持的模型类型、要求与计费说明;再按官方给出的命令行示例核对注册提供方与登记模型的步骤。前两条不需要部署端点就能复现。
对不同角色的实际影响不一样。已经在自托管微调模型、又不想为每个模型单独维护密钥与客户端的团队,这次变化省掉的是一层接入与日志拼装工作;把编码智能体接到网关的团队,官方列出的几款编码工具现在也可以指向私有模型;需要统一审计的平台团队,则要看私有模型流量是否与目录流量进了同一套日志与追踪导出。要注意两点:一是私有模型的可用范围限定在团队内,跨团队使用不是这次公告覆盖的场景;二是计费细节官方明确指向文档,本文不转述任何金额或折扣,实际以官网为准。
最容易读错的一处是把这条当成「Vercel 上架了某个新模型」。同日更新流里确实有模型上架条目,但那是目录模型侧的变动,且含折扣数字,按硬约束排除;本条改的是网关能不能接自有端点。另一处是把可选项读成默认:零数据留存与失败回退在官方页里都是按需启用,不要写成「接入即自动具备」。
项目地址与获取方式
官方入口是 Vercel 上的 AI Gateway 与 changelog 页,本次更新对应 2026 年 11 月 16 日那条 Private Inference 公告。开始使用的路径由官方给出:在控制台的 Private Inference 页面添加端点作为私有提供方,填入基础地址、选择接口格式并添加凭据,再登记该端点提供的模型;也可以用 Vercel CLI 完成注册,官方给出命令行示例与版本下限。调用时用 private/ 开头的模型标识,并在需要时按官方文档配置回退。请通过官方控制台、官方命令行与官方文档获取能力,不要把第三方转封装服务当作来源。支持的模型类型、接入要求、版本门槛、配额与计费一律以官网为准。
适合谁用
- 自托管或微调了模型、希望与目录模型共用一套鉴权与 SDK 的团队
- 需要把自有模型接进编码智能体工作流的开发者
- 关心私有模型流量能否与目录流量进同一套日志与追踪导出的平台团队
- 对凭据存放与数据留存有内部要求、需要按提供方配置的组织
- 只调用公开目录模型、没有自建端点的项目,这次更新影响有限;准备评估计费与接入前置条件的团队,建议先按官方文档核当前口径再决定接入节奏,不要按转载文章里的示例配置操作
常见问题
这次是 Vercel 发布了新的模型吗?
不是。按官方 changelog,这次是把使用方自己运行的端点接进 AI Gateway,模型由使用方提供,Vercel 没有在本次公告里发布新模型。判断口径:看发布主体是模型厂商的发布页,还是网关侧的能力更新,本条是后者。同日更新流里另有模型上架条目,属目录侧变动且含折扣数字,本文按硬约束不转述,也不把它并入本条。
私有模型会被别的团队看到吗?
按官方页不会。官方写私有模型只有所属 Vercel 团队能查看与调用,也不会列入公开模型目录;凭据加密保存,零数据留存可以按提供方启用。这里要注意「可以按提供方启用」是可配置项,不是官方写明的默认状态,是否需要开启按自己团队的要求与官方当前文档来判断。
这和站内几篇 AI Gateway 上架稿是同一件事吗?
不是。站内已有的 AI Gateway 相关稿件写的是目录里新增模型选项、检索工具接入或日志与会话亲和能力,属「第三方平台新增可用模型或配套能力」;本条写的是网关能不能接自有端点,属提供方抽象层的变化。两次改的东西不同,也不要把本轮同批的云检索、开源引擎条目混进来,它们是另外几家厂商的事件。
官方页没写 GA,能说它全面正式可用吗?
不能据此断言。官方 changelog 页没有标注 GA 或 beta 一类的成熟度标签,只写了现在可以通过网关使用这些端点。本文按「现在可接入」陈述,不替官方补阶段判断;支持的模型类型、接入要求与可用范围的完整口径,以官方当前文档为准。
相关工具与内容
站内 AI 智能体分类 与 AI 编程分类 汇总了同方向的平台与开发侧工具,Dify 工具页、n8n 工具页 与 LangChain 工具页 可对照自建编排与网关接入的形态差异。脉络上建议连着看 AI Gateway 上架 DeepSeek V4.1 Flash、AI Gateway 会话亲和与日志、AI Gateway 接入 DeepSeek 检索工具、AgentCore Identity 的 OAuth2 发现、智能体访问分层 与 智能体的自主范围怎么划,几篇分别对应目录模型、可观测性、工具接入、身份凭据与访问边界这几条不同的读者线。
相关内容
AWS Quick 同日三组更新:插件打包智能体与技能,网页端与 Flows 打通跨端工作流
AWS 在 2026 年 11 月 20 日至 21 日连续发布三条 AWS Quick 更新:插件可把智能体、技能、连接器与流程打包成一次安装的单元;网页端把桌面体验搬进浏览器,并更新浏览器扩展与 Microsoft 365 加载项;Flows 支持用对话构建自动化,并加入确定性步骤与输出校验。官方用户指南说明 Quick 由 Amazon QuickSight 演进而来,原有 QuickSight 接口与集成继续可用。
Amazon Bedrock 网页搜索新增五种语言与国别字段:按用户所在国偏置检索来源
AWS 于 2026 年 11 月 21 日宣布 Amazon Bedrock 的 Web Search 工具新增西班牙语、法语、德语、意大利语和日语,并支持非美式英语;同时加入可选的国家字段,用 ISO 3166-1 alpha-2 代码把检索来源偏置到指定国家。现有客户无需改代码即可获得语言能力,可用区域与数据驻留口径以官网为准。
Transformers v5.24.0 发布:纳入十个新模型架构,缓存参数改名进入兼容期
Hugging Face 于 2026 年 11 月 21 日发布 Transformers v5.24.0,正式版标注为 prerelease=false。本次新增 Inkling 2 Mini、Apertus 1.5、Omnilingual ASR、HY4-VL 等十个模型架构支持,同时把 past_key_values 与 cache_params 统一改名为 cache,并给出跨版本的兼容时间表。
继续阅读:vLLM v0.34.0:可扩展 KV 缓存转为默认,Model Runner V1 移除并附一组升级前检查项 · GitHub Copilot 于 11 月 16 日下线三款模型:迁移口径与两条例外说明