Ollama v0.35.0 引入 decision models：本地跑「做判断」而不是「生成文本」的模型

Ollama 在 2026 年 9 月 28 日发布的 v0.35.0 中加入 decision models，通过新的 /v1/systemone 接口返回选择、概率与分数而不是文本，面向工单分类、模型路由与内容分类。首批可用模型为 Nimble（Bespoke Labs）与 Tev1（Together AI）。该 tag 在 GitHub 上标记为预发布。

这次发布的是什么

Ollama 在 2026 年 9 月 28 日发布的 v0.35.0 中引入了一类新的模型用法：decision models（决策模型），通过新增的 /v1/systemone 接口提供，基于 TypeSafe 的 Jev API（https://typesafe.ai）。

与常见的生成式模型不同，decision models 不返回一段文本，而是返回选择、概率与分数。官方给出的典型用途是工单分类（ticket triage）、模型路由（model routing）与内容分类（content classification）——也就是「把一件事判断成哪一类」这类任务。首批可用的两个模型是 Bespoke Labs 的 Nimble 与 Together AI 的 Tev1，都可以在 Ollama 的模型库中拉取。

影响谁：在本地或内网跑 agent、需要在流程里先做一次分类或路由再决定下一步的开发者；以及工单、客服、内容审核这类需要稳定结构化输出的场景。

需要留意：v0.35.0 这个 tag 在 GitHub 上被标记为预发布（prerelease），上一个未标记预发布的版本是 2026 年 9 月 23 日的 v0.34.4。是否升级到该版本请自行判断，稳定版以 Ollama 官网为准。

可用性与限制

• 发布状态：GitHub Release 上的 v0.35.0 标记为预发布（prerelease），不是稳定版通道的常规发布。
• 接口：新增 /v1/systemone，默认本地服务地址为 http://localhost:11434。
• 可用模型：官方列出的首批两个是 Nimble（Bespoke Labs）与 Tev1（Together AI）；后续是否接入更多模型以 Ollama 模型库为准。
• 问题类型：官方说明支持三类——choice（在选项中选一个并返回各选项概率）、noul（返回某个条件为真的概率）、score（在一组有序标准上返回分数）。
• 输出形态：返回的是结构化答案而不是自然语言文本，不适合当作聊天模型用。
• 依赖：该能力基于 TypeSafe 的 Jev API，属于外部规范，接口字段可能随上游变化。
• 平台相关：本版本同时修复了 macOS 更新菜单与图标、以及 MLX 模型下载卡住的问题（见「主要功能」）。
• 兼容性：请求中带已弃用的 typical_p 参数时，本版本起改为记录警告而不再直接失败。

主要功能

• 在本地跑「做判断」的模型，返回类别、概率与分数
• 支持 choice / noul / score 三类问题
• 一次请求可携带一段上下文与一个或多个问题
• 可用于工单分类、模型路由、内容分类
• 沿用 Ollama 既有的本地模型管理方式，用 pull 拉取、用本地服务调用
• 设置页不再等待模型发现即可打开
• 修复 macOS 更新菜单与图标在启动时不反映可用更新的问题
• 修复 MLX 模型下载卡住不结束的问题

技术原理

据官方 Release 说明，/v1/systemone 基于 TypeSafe 的 Jev API 实现。请求里传入 model、state（对当前情况的描述）以及 questions（一个或多个问题），每个问题指定 type 与判定标准；响应里给出答案、各选项的概率与置信度（confidence），以及 input_tokens 与 output_tokens 的用量。

这种形态的价值在于：分类与路由这类任务，原本要用生成式模型先输出一段文本再由代码解析，既慢又不稳定；改成直接返回概率与分数后，输出天然结构化，且输出 token 数极低，延迟与开销都进一步下降。这也解释了为什么它适合放在 agent 流程里做「先判断、再决定调用哪个模型」的模型路由——判断这一步本身几乎不产生生成成本。

具体的实现细节、支持的模型与接口字段，以 TypeSafe 官方文档与 Ollama 官方文档当前版本为准。

实际体验

本节不提供第一人称实测结论，只给出读者可以自己复现的验证步骤：

1. 确认版本。用命令行查看当前 Ollama 版本；如果要试该能力，需安装带 /v1/systemone 的版本，并注意 v0.35.0 在 GitHub 上被标记为预发布。
2. 拉取模型。按官方示例执行 ollama pull nimble（或换用 tev1），确认模型下载完成。
3. 发一次请求。向本地服务的 /v1/systemone 发一个带 state 与 questions 的请求，type 先选 choice，criteria 里放两到三个互斥类别，观察返回的 choice、probabilities 与 confidence 是否合理。
4. 校验概率是否真的在「判断」。把同一段 state 改成明显属于另一类的表述，看概率是否随之转移——这是区分「真判断」与「瞎猜」的快办法。
5. 试另外两类问题。noul 用于判断某个条件是否为真，score 用于在一组有序标准上打分，确认返回结构符合你下游代码的预期。
6. 做一次成本对照。把你原本用生成式模型做分类的那条链路跑一遍，比较两者的耗时与返回稳定性。
7. 核对官方口径。接口字段与可用模型以 Ollama 官方文档与模型库当前版本为准。

项目地址与获取方式

• 官方 Release 说明（v0.35.0）：https://github.com/ollama/ollama/releases/tag/v0.35.0
• 完整差异对比：https://github.com/ollama/ollama/compare/v0.34.4...v0.35.0
• Nimble 模型页：https://ollama.com/library/nimble
• Tev1 模型页：https://ollama.com/library/tev1
• 上游规范方：https://typesafe.ai
• 获取方式：从 Ollama 官网下载安装，或用你惯用的包管理器升级。请通过官方渠道获取，避免安装被篡改的版本。

适合谁用

• 在本地或内网跑 agent、需要在流程里做分类与路由的开发者：这是 decision models 最直接的场景。
• 用工单系统、需要把进来的请求自动分到不同队列或不同模型的团队。
• 已经在用 Ollama 管理本地模型、想少写一层「让模型输出 JSON 再解析」胶水代码的人。
• 不必现在用的情况：只需要聊天或文本生成；或者你的环境要求只上稳定版——v0.35.0 在 GitHub 上被标记为预发布。
• 需要谨慎用的情况：把概率直接当作决策依据且没有人工兜底的场景。概率是模型给出的估计值，不是事实判断，重要决策仍应保留人工复核。

常见问题

decision models 和普通大模型有什么不同？

普通大模型返回一段生成的文本，decision models 返回的是选择、概率与分数这类结构化结果，不产出自然语言回答。按 Ollama 官方的说法，它适用于工单分类、模型路由与内容分类这类「判断成哪一类」的任务，不适合当聊天模型用。

现在有哪些模型可用？

官方 Release 说明里列出的首批两个是 Bespoke Labs 的 Nimble 与 Together AI 的 Tev1，都可以在 Ollama 模型库中拉取。后续是否接入更多模型以 Ollama 模型库为准。

接口具体怎么用？

向本地 Ollama 服务的 /v1/systemone 发送 POST 请求，body 里带 model、state（当前情况描述）和 questions（一个或多个问题）。问题支持三类：choice 返回选中的选项与各选项概率；noul 返回某个条件为真的概率；score 在一组有序标准上返回分数。字段细节以官方文档为准。

v0.35.0 是稳定版吗？要不要升级？

GitHub Release 上 v0.35.0 被标记为预发布（prerelease），上一个未标记预发布的版本是 2026 年 9 月 23 日的 v0.34.4。是否升级取决于你对稳定性的要求；生产环境建议等官方发布稳定版通道，具体以 Ollama 官网为准。

除了 decision models，这个版本还改了什么？

官方 Release 说明里还列了四项：设置页不再等待模型发现即可打开；修复 macOS 更新菜单与图标在启动时不反映可用更新的问题；修复 MLX 模型下载卡住不结束的问题；请求里带已弃用的 typical_p 参数时改为记录警告而不再直接失败。

相关工具与内容

• /category/code — AI 编程工具分类，本地模型与 agent 开发相关
• /category/agent — AI 智能体分类，模型路由是 agent 流程的常见需求
• /tool/dify — 可自建工作流的智能体平台
• /tool/n8n — 自动化工作流工具，可与本地模型服务配合
• /article/gpt-6-family-guide-2026-09 — 若你更关注云端模型挡位的选择，可参考这篇
• /category/other — 其他 AI 工具分类