">

NVIDIA 发布 Nemotron 3.5 Super VL:1200 亿参数开放权重视觉语言模型,补上端侧两款 Bolt

NVIDIA 在 2026 年 10 月 15 日发布开放权重的 1200 亿参数视觉语言模型 Nemotron 3.5 Super VL,主打常驻型智能体的文档类任务;同日公布两款端侧模型 Bolt 74B-A9B 24GB 与 Bolt E4B 4GB,前者即日可用、后者定于 10 月 23 日。模型附带开放权重、开放数据集与训练配方,官方称可通过 NeMo 与 Python 流水线做后训练,也可走 NIM 微服务部署。

这次发布的是什么

NVIDIA 在 2026 年 10 月 15 日发布了 Nemotron 3.5 Super VL,一个开放权重的 1200 亿参数视觉语言模型,定位是给「常驻型」智能体跑专用任务。同一篇官方博客里还公布了两款面向端侧的新模型:Nemotron 3.5 Bolt 74B-A9B 24GB 与 Nemotron 3.5 Bolt E4B 4GB。官方写明 Super VL 与 Bolt 74B-A9B 即日起可用,Bolt E4B 4GB 计划在 10 月 23 日推出。

这次的动作更像把 Nemotron 家族补齐,而不是单点发一个模型。按官方博客的说明,Lightning 系列在 8 月推出,负责高吞吐场景;Ultra 负责难度最高的推理任务;这次的 Bolt 则负责把智能体能力带到边缘设备与本地硬件。三者合起来覆盖从大型企业服务器,到边缘设备与个人本地机器的部署范围。

Super VL 的能力描述集中在文档与视觉理解上:官方点名的方向是光学字符识别、表格、图表,以及视觉文档里的结构化信息,并举例说它可以处理一个网页、抽取文字、读取图表并给出结论,PDF 与其他智能体常遇到的文档同理。

可用性与限制

  • 开放程度:官方称模型附带开放权重、开放数据集与训练配方,可以后训练并部署到自有基础设施。
  • 上线时间:Super VL 与 Bolt 74B-A9B 24GB 现已可用;Bolt E4B 4GB 官方称 10 月 23 日推出。
  • 端侧内存:Bolt 74B-A9B 24GB 使用原生 2-bit 量化以适配 24GB 显存,官方称目标是与其他应用同时运行。
  • 硬件范围:Bolt E4B 4GB 面向 GeForce RTX、Jetson 与 RTX/DGX Spark 等设备。
  • 部署形态:官方以 NIM 微服务形式发布,并称会持续刷新安全补丁;具体刷新节奏与支持范围以官方页面为准。
  • 定制通道:官方称可通过 NeMo、Python 流水线与开放数据集完成后训练与定制。
  • 费用与额度:模型下载、云上部署与商用授权的费用以 NVIDIA 官方页面为准,本文不列写具体价格,也不对可能存在的免费额度下结论。
  • 境内访问:权重与数据集托管在公开平台上,能否稳定拉取取决于网络环境,请以实际访问情况为准。

主要功能

  • 文档理解:处理网页、PDF 与常见办公文档,抽取文字并给出结论
  • 光学字符识别:面向智能体实际会遇到的版式识别截图与扫描件中的文字
  • 图表读取:解析表格、柱状图与折线图等结构化视觉信息
  • 工具调用与多步流程:面向指令遵循、工具使用与多步业务流程设计
  • 本地智能体:Bolt 74B-A9B 24GB 面向网页检索、写作与调试代码等本地任务
  • 语音与交互:Bolt E4B 4GB 面向本地语音助手、交互式角色与嵌入式界面

技术原理

Super VL 的核心取舍是「把文字理解与视觉理解放进同一个模型」。官方给出的理由是:智能体处理文档类任务时,往往要在多个系统之间搬运上下文——先做光学字符识别、再解析表格、再交给语言模型;合并到一个模型之后,从文档到数据再到判断的链路不需要中途换系统,上下文可以一路带过去。

训练层面,官方写明模型在预训练与继续预训练阶段使用了约 26 万亿 token,之后用约 380 万条样本、在数十个环境里做后训练与强化学习。开放的不只是权重:官方同时释出覆盖智能体工具调用、金融、指令遵循、长上下文、公平性与视觉语言理解的数据集,并把强化学习环境放在 NeMo Gym 中。

量化是 Bolt 74B-A9B 能塞进 24GB 显存的原因。官方称它采用原生 2-bit 量化,目标是在单位显存上平衡智能水平与速度,从而能在本地机器上与其他应用并行运行,不必把任务送到云端。

实际体验

这篇不提供第一人称实测,只给出读者可以自己复现的验证步骤:

第一步先确认拿到的是哪个版本。官方博客写明了 Super VL 与 Bolt 74B-A9B 的可用状态,以及 Bolt E4B 4GB 的日期安排,拉取前先核对模型卡上的版本与量化格式,别把量化版与原始权重混为一谈。

第二步用自己手头的文档做对照。挑一份同时含正文、表格与图表的 PDF,分别只问表格里的数据、只问图表趋势、再问跨两者的综合问题,观察模型是否真的把视觉信息与文字信息接上了,而不是只做了一次文字抽取。

第三步验证端侧路径。如果目标是本地运行,先按官方模型卡给出的量化格式与显存要求准备环境,再跑一个小样本任务,确认能与其他应用并行;显存不足时优先换更小的 Bolt 档位,而不是硬改量化参数。

第四步核对定制链路。若打算后训练,先确认 NeMo 与相关流水线的版本要求,再跑通一个最小样例,确认数据集格式与官方释出的数据集一致。

项目地址与获取方式

官方公告页:https://blogs.nvidia.com/blog/nemotron-3-5-super-vl/

模型权重与数据集:官方称释出在公开模型平台上,具体仓库名、量化格式清单与下载地址以 NVIDIA 官方博客与官方模型页为准。

推理部署:官方提供 NIM 微服务形式,入口与支持矩阵以 NVIDIA 官方页面为准。

请通过官方渠道获取模型权重、数据集与镜像,避免下载被篡改的版本。

适合谁用

  • 需要在自有基础设施上跑文档类智能体的团队:开放权重加可后训练,数据不出内网
  • 处理表单、票据、合同、财报等版式解析的开发者:图表与表格理解是这次的主打方向
  • 想在本地机器上跑智能体的个人用户:Bolt 74B-A9B 24GB 面向 24GB 显存档位的设备
  • 做语音助手或嵌入式交互的硬件开发者:Bolt E4B 4GB 面向 Jetson 与 GeForce RTX 一类设备
  • 不必用的人:只需要一个通用聊天助手、或者不打算自己部署与后训练的,直接用托管服务更省事

常见问题

Nemotron 3.5 Super VL 是开源模型吗?

官方称它同时提供开放权重、开放数据集与训练配方,可以在自己的基础设施上部署与后训练。但开放权重与通常意义上的开源许可并不完全等同,商用范围、再分发条件等以官方许可条款为准。

它和 Lightning、Ultra 有什么区别?

按官方博客的定位,Lightning 面向高吞吐,Ultra 面向难度最高的推理任务,Bolt 面向边缘与本地硬件。Super VL 这次是补上「视觉语言 + 常驻型智能体」这一档,选型时先看任务形态再看档位。

24GB 显存真的能跑 Bolt 74B-A9B 吗?

官方称它使用原生 2-bit 量化以适配 24GB 显存,并说明目标是与其他应用并行运行。实际能否跑起来还取决于上下文长度、并发与系统占用,建议以官方模型卡给出的条件为准,并在自己的硬件上先跑小样本验证。

能不能用自己的数据后训练?

官方明确把可定制作为卖点,称可通过 NeMo、Python 流水线与公开数据集完成后训练。具体支持的微调方式、显存门槛与配方以官方文档为准。

官方公布的速度与榜单成绩能直接拿来选型吗?

不建议。这类数字是厂商自评口径,且会随版本与配置变化。更稳的做法是拿自己的任务集跑一遍对照,把结论建立在自己的用例上。

相关工具与内容

Related
快讯 1 小时前

Transformers v5.20.0 发布:一口气纳入 Muse Spark Open、Ling 3.0 Flash、Kolibri 1 等七个新架构

Hugging Face 在 2026 年 10 月 15 日发布 Transformers v5.20.0。这次的看点是新增模型:Meta 的多模态混合专家模型 Muse Spark Open、InclusionAI 的 Ling 3.0 Flash、Aleph Alpha 的 Kolibri 1、OpenBMB 的 MiniCPM-V 4.7、百度的 UnlimitedOcr、UltraBERT 编码器族,以及端到端说话人分离转写模型 MOSS-Transcribe-Diarize。版本同时带几处破坏性改动,并标注了使用 EP 推理时的速度回退。

前沿快讯 3 阅读
快讯 1 小时前

Cloudflare 与 OpenAI 公布 AI 发现试点早期结果:用网络侧信号帮 ChatGPT 找到更多网页

Cloudflare 与 OpenAI 在 2026 年 10 月 15 日公布了双方自 7 月启动的 AI 发现研究试点的早期结果。试点让 Cloudflare 提供网络侧信号,帮助 OpenAI 的搜索爬虫发现更多此前未被索引的页面,官方称参与范围约占 Cloudflare 全网百分之一。文章同时说明三类信号的作用、站点侧的访问控制入口,并强调这项研究用的是网页元数据而非页面正文。

前沿快讯 2 阅读
快讯 1 小时前

Anthropic 向 METR 开放「类员工」访问权限,第三方模型评估分出三级接入

Anthropic 在 2026 年 10 月 15 日更新第三方评估进展:已开始向非营利机构 METR 的团队提供类员工访问权限,六名 METR 员工获得公司硬件、办公空间与内部系统访问,METR 将自行发布风险评估结果。文章同时给出三级接入框架,说明 SecureBio 目前处在第一级,并列出与客户数据相关的少数不共享类别。

前沿快讯 2 阅读

继续阅读:Transformers v5.20.0 发布:一口气纳入 Muse Spark Open、Ling 3.0 Flash、Kolibri 1 等七个新架构 · Cloudflare 与 OpenAI 公布 AI 发现试点早期结果:用网络侧信号帮 ChatGPT 找到更多网页

关于本文:本站文章由编辑部独立撰写,评测口径与免责说明见关于我们。想继续找工具,可从分类导航按场景浏览,或回首页搜索。

链接已复制