">

Unsloth 发 v0.1.909-beta:本地能跑 DeepSeek-V4.1 Flash 与 FLUX.3 Klein,一条命令把 Claude Code 接到本机

Unsloth 在 2026-10-19 发布 v0.1.909-beta,这是它面向本地运行与本地微调的一套桌面端加命令行工具的版本更新。核心是三件事:支持 DeepSeek-V4.1-Flash-1017 与 FLUX.3 Image Klein 两个新模型的本地运行;新增一键 MCP 接入,把 Claude Code、Codex、Cursor 直接连到本机的 Unsloth,让编码智能体自己去下载模型、启动训练、加载检查点;训练侧加入 FSDP2 多卡支持(alpha)。官方在说明里给的都是「官方称」口径的提速数字,本文只保留可核的结构事实。

这次发布的是什么

Unsloth 在 2026-10-19 发布了 v0.1.909-beta(GitHub Release 记录的时间是 2026-10-19T16:21:58Z),这是它面向本地运行与本地微调的一整套工具的版本更新,覆盖命令行、桌面端和 Python 库三条入口。版本号带 beta 后缀,按预发布语义对待:官方把这次更新当作可用的里程碑,但它不是「稳定版」的措辞。

这次更新的主线可以概括成两个方向。一是模型跟得上:把 10 月刚出的 DeepSeek-V4.1-Flash-1017 和 Black Forest Labs 的 FLUX.3 Image Klein 都做进了本地运行与 GGUF 导出。二是让本机的训练与推理变成「智能体可调用的资源」:新增一键 MCP 接入,官方的说法是让 Claude Code、Codex 或 Cursor 连上本机的 Unsloth 之后,由智能体自己上传数据集、启动训练、加载训练出来的检查点。

对本地玩家来说,这次更新真正改变使用方式的是第二点。过去「跑一个开源模型」和「用编码智能体写代码」是两条互不相干的线;现在本机的模型、训练任务和桌面端可以在同一套 MCP 工具里被调用,配置不再靠人手工抄路径。

可用性与限制

  • 形态:开源桌面端(官方明确写 Desktop 免费且开源)、命令行工具与 Python 库三件套;Windows、macOS、Linux 都有安装包,Linux 另提供 deb 与 AppImage。
  • 版本性质:这个版本号带 beta 后缀,官方在发布说明里也没有称其为稳定版。生产环境建议先在小机器上验证一遍再替换。
  • 硬件门槛:DeepSeek-V4.1-Flash-1017 官方给的参考是 1-bit 量化下约 125GB 内存、4-bit 下约 300GB,且需要把 Engram 表放在 SSD 上;FLUX.3 Image Klein 官方给的显存门槛是 24GB。
  • 多卡训练:FSDP2 支持被官方标为 alpha,说明里没有承诺稳定性与性能基线,需要先在目标集群上试。
  • 注册与账号:官方说明 LTX-2.5 不再需要登录 Hugging Face 账号;其余模型的下载许可与登录要求以官方文档当期内容为准。
  • 计费:项目本身免费开源,实际成本落在本地显存、内存与电费上;若走第三方 API 供应商,价格以各供应商官网为准。

主要功能

  • 本地运行 DeepSeek-V4.1-Flash-1017:552B 参数模型,约 16B 激活,1M 上下文。
  • 本地生成与编辑 FLUX.3 Image Klein:5.6B 图像模型,单次可用最多 10 张参考图。
  • 一条命令接 MCP:把 Claude Code、Codex、Cursor 连到本机 Unsloth。
  • 让智能体代管训练:上传数据集、起训练、加载检查点都在对话里完成。
  • FSDP2 多卡训练:LoRA、QLoRA 与全参微调都可以跨卡铺开。
  • 训练前预览词元:先看模型会在哪些片段上学习,再决定要不要开始跑。

技术原理

按官方说明,DeepSeek-V4.1-Flash-1017 的显存账要拆成两部分看:常规权重是 552B 参数,另有一块约 196B 参数的 Engram 表,实际每步只激活其中约 16B。Engram 表可以留在 SSD 上按需读取,所以 1-bit 量化下整体能压到约 125GB;换成 4-bit 则约 300GB。这是一种「把不常动的参数放到更慢的存储层」的思路,代价是每步要多等一次存储读取。

多卡这一侧用的是 PyTorch 的 FSDP2(完全分片数据并行第二代),把 LoRA、QLoRA 和全参微调都按分片铺到多张卡上;长序列另有一个 context_parallel_size 参数做序列维度的切分,官方说明打包后的序列也同样能切。上车前可以先跑 unsloth doctor --gpus 做一次多卡预检。

全参微调的优化器显存有两条降法:把优化器换成本项目实现的 adamw_flash,或者设置 UNSLOTH_OFFLOAD_OPTIMIZER_STATE 环境变量,把优化器状态在两步之间放到系统内存里,官方明说这会损失一些速度。

图形这一侧,FLUX.3 Image Klein 是 5.6B 的流匹配类图像模型,官方同时提供它的蒸馏版与未蒸馏的 Base 版,两者都有 GGUF。在没有 NVIDIA 或 ROCm 的机器上(高通骁龙笔记本、ARM 开发板之类),这一版改为通过 Vulkan 把 GGUF 放到 GPU 上跑,不再退回 CPU。

实际体验

想验证这个版本是否适合自己,可以按下面这套顺序走,每一步都能独立判断成败。

第一步,验环境。装好之后先跑一次 GPU 预检命令,确认它认出的卡数、显存和驱动版本与机器实际情况一致。多卡机器上如果这一步数出来的卡少了,后面的分片会直接失败。

第二步,验小模型整条链路。挑一个能在本机显存里放得下的对话模型,走一遍「下载 → 加载 → 对话 → 导出 GGUF」的完整流程。这一步主要验证的是文件路径与量化档位没有在版本切换中被改错。

第三步,验 MCP 接入。用一条命令把编码智能体连上本机,然后让它做一件只读的事,比如列出当前已下载的模型、预览一次模型加载会下载多少文件。确认它能读到状态之后,再让它触发一次小数据集的短训练。这一步是这版的主要卖点,也是最值得先验的地方。

第四步,验图片与视频同驻。在带独立显卡的机器上,把图像或视频模型与聊天模型同时驻留,然后在对话里直接出图。官方的说明是模型的驻留策略可以在设置里选「放得下就保留」或「总是保留」——如果显存紧张,这个开关就是你调节点的地方。

第五步,验显存账。用 DeepSeek-V4.1-Flash-1017 的 1-bit 版本试一次加载,对照官方给的约 125GB 参考值看自己的机器是否需要更多。超了就先降上下文长度,而不是先降量化精度。

项目地址与获取方式

GitHub 仓库与本次发布:https://github.com/unslothai/unsloth/releases/tag/v0.1.909-beta

桌面端与文档入口:https://unsloth.ai/docs/desktop

MCP 接入文档:https://unsloth.ai/docs/basics/mcp

多卡训练文档:https://unsloth.ai/docs/basics/multi-gpu-training-with-unsloth

请通过官方仓库与官网获取安装包与文档;第三方镜像站分发的安装脚本存在被替换的风险,安装后建议核对来源与版本号。

适合谁用

  • 在自有显卡上跑开源模型的个人研究者与小团队,尤其是显存卡的 24GB、48GB 这一档
  • 想用编码智能体自动跑实验的算法工程师:训练任务由智能体调起、结果由智能体读取
  • 需要微调但不想上云的团队,尤其是数据不出内网的场景
  • 想本机试 DeepSeek-V4.1 或 FLUX.3 Klein 生成效果、再决定要不要走付费 API 的人
  • 不必用的情况:只想调 API、不打算管本地模型的团队;以及在多卡集群上要求生产级稳定性的团队——FSDP2 目前是 alpha

常见问题

这个版本是稳定版吗?

不是官方口径里的稳定版。版本号带 beta 后缀,发布说明也没有使用稳定版措辞。它的内容足够完整,可以拿来用;但如果是团队共用的训练环境,建议先在一台机器上把完整流程跑通、确认显存与驱动都正常之后,再替换旧版本。

1-bit 下约 125GB 是什么意思,我 24GB 的机器能跑吗?

不能。这个数字针对的是 DeepSeek-V4.1-Flash-1017 这个 552B 参数模型,官方给的参考是 1-bit 量化并把 Engram 表放在 SSD 上时的整机内存占用。24GB 显存这一档对应的是 FLUX.3 Image Klein 和更小的对话模型。选模型时先看官方的显存门槛,再看自己的机器。

一键接 MCP 之后,智能体能替我做什么?

按官方说明,接上之后智能体可以上传数据集、启动训练、加载训练出来的检查点,也可以提前下载模型、预览一次加载会下载什么、把视频生成任务排进队列。它做的是「替你操作本机工具」,不是替你决定训练什么——数据集与超参数仍然由你定。

训练会不会把我的数据传出去?

本地训练的数据留在本机,模型下载走的是官方渠道。需要注意的是桌面端在若干版本里已经接入第三方 API 供应商作为可选项,选不选、传什么由用户在设置里决定。涉及敏感数据的团队建议在接入前核对一遍数据流向。

和直接装开源库用 Python 脚本有什么差别?

拿到的是同一套底层训练能力,差别在入口。用脚本意味着每一步都由你写代码;用这套工具意味着很多步骤有现成的命令和界面,并且能被编码智能体调用。要做非标准改动的话,仍然会回到 Python 里写。

相关工具与内容

Related
快讯 7 小时前

MCP 官方参考服务器 2.1.0:修复 8 个安全漏洞

Model Context Protocol 官方参考服务器仓库于 2026 年 10 月 25 日发布 v2.1.0,一次修掉分布在 filesystem、everything、fetch 三个参考服务器里的八个漏洞,并给出每个包的受影响版本区间与修复版本;其中文件系统服务器的写入重定向问题在 Windows 上仍只是部分修复。

前沿快讯 20 阅读
快讯 7 小时前

Open WebUI 0.12.4:技能按需加载与上下文压缩

自托管大模型前端 Open WebUI 于 2026 年 10 月 25 日发布 0.12.4:技能支持按需加载、上下文压缩在聊天里可见且覆盖到更多场景,管理员可按角色隐藏界面控件并自动隐藏不可用的选项;同时改了三项默认行为,其中 Direct Integrations 默认关闭会让已保存的连接停止生效。

前沿快讯 14 阅读
快讯 7 小时前

Pydantic AI 2.61.0:引用结构化与新模型名入库

Python 智能体框架 Pydantic AI 于 2026 年 10 月 24 日发布 2.61.0:把引用做成结构化数据并统一多个云厂商的返回格式、能按原始产出方回放引用,新增 kimi-k3.1-pro 与 kimi-k3.1-pro-highspeed 两个模型名,同时把持久化引擎的扩展接口转为公开,并收紧了输入护栏的默认行为。

前沿快讯 21 阅读

继续阅读:FastMCP 一天发两个版本:授权要在转换之后生效,OAuth 要绑 issuer,凭证库要跟着 eMudhra 事件升级 · Vercel Functions 的 WebSocket 支持转正:连接按函数调用计价,只有在处理消息时才算 CPU

关于本文:本站文章由编辑部独立撰写,评测口径与免责说明见关于我们。想继续找工具,可从分类导航按场景浏览,或回首页搜索。

链接已复制