免责声明：本站与 DiffuSpace 官方无关。
YuliusWiki
🌐 English Version发布日期:•最后更新:•yulius
Clover-35B-A3B 是什么？不逐词写的扩散语言模型，整块并行改写
快速答案
扩散式语言模型：整块并行改写，35B 仅激活 3B；分数均为厂商自报。
经典大模型写字是一个字一个字往外蹦：先写第一个 token，再把它喂回去写第二个。DiffuSpace 2026 年 10 月 28 日发布的 Clover-35B-A3B-Preview 不走这条路：它先起草一整块带空格的草稿，再经过几轮并行改写，把有把握的位置一次性填上。这就是“扩散语言模型”——不是从噪声里画图，而是从满是占位符的草稿里改出一篇通顺的文本。模型 35B 总参、每 token 仅激活约 3B，Apache-2.0 开源，权重与代码已上 Hugging Face 与 GitHub。先说清楚三点：第一，所有分数与速度数字全部是厂商自报（preliminary），目前没有独立复现；第二，它是个 Preview，名字里的“预览”不是谦辞，长任务表现尚未验证；第三，它没有 API，本文讲的是机制本身，不适合套付费站的模板。\n\n免责声明：本站与 DiffuSpace 无关；本文为产品技术报道与分析，不构成采购、部署或投资建议。分数与速度数字为厂商自报口径，标注 preliminary；部署与许可信息以官方页面为准，可能变化。
一、是什么：从“一个字一个字写”到“整块草稿改出来”
理解扩散语言模型最快的办法是换个比喻：自回归模型像口头作文，说一个字想下一个字；扩散模型像编辑改稿，先铺一版满是空格的草稿，再一轮一轮把有把握的空填上，填完一块再改下一块。Clover 的默认设置是每块 32 个 token：先把 32 个位置全部掩盖，并行填入高置信度的词，剩下的留到下一轮；如果一轮里没有位置达标，就先填最有把握的那一个，保证进度不卡住。\n\n这不是一个新点子换个大名字。DiffuSpace 是香港大学 NLP 课题组的商业化延续，2025 年 4 月发布的 Dream 7B 是第一个证明“小尺寸扩散模型能和自回归模型打平”的工作，Dream 家族在 Hugging Face 累计下载超 270 万次。Clover 是它的放大版：尺寸约 5 倍，第一次把开源扩散模型直接对准它所基于的自回归模型（Qwen3.6-35B-A3B）去比，并且宣称赢了。官方博客的原话是：更大尺寸下，扩散模型甚至能小幅超过同尺寸自回归模型，同时生成速度显著更快——“速度与性能可以共存于一个模型”。这句话的后半句（速度）有内部数据支撑，前半句（性能）要看第三节的口径拆解。
二、机制：32 token 一块、0.95 置信阈值、双向块注意力
Clover 的骨干并不神秘：它直接沿用 Qwen3.6-35B-A3B 的结构——40 层、每层 256 个路由专家 top-8 加 1 个共享专家、混合 Gated DeltaNet / 全注意力骨干，35B 总参、每 token 激活约 3B。DiffuSpace 加上去的是两样东西。第一，块扩散解码（官方实现叫 LowConfidence 解码）：每块 32 个掩盖位置，按置信度并行填充，默认阈值 0.95——也就是说，一块只有在模型“确信”时才收口，而不是跑满固定步数；已确定的块成为下一块的前缀，上下文就这样一块一块往前滚。第二，双向块注意力：新增的 GDN 学习参数（含右卷积权重与 softmax 控制）让 token 能在带噪块内双向看上下文，同时保持前缀的因果性——这是扩散改写成立的关键：同一块里的词可以互相参考，而不是像自回归那样只能看前面。\n\n还有两个产品层面的事实。模型是纯文本，不处理图像与音频；上下文 128K 是提示与生成合计 131,072 token，不是“输入 128K 再输出 128K”。思考模式（thinking mode）是官方明确支持的，面向 agent 编码与工具调用任务——这也是它六个 agent 基准得分最高的自我定位。但要注意：思考模式的存在不等于长任务可靠，Preview 阶段的长程表现仍是开放问题。
三、数字与口径：全部厂商自报，且有两个口径陷阱
先列厂商数字，全标 preliminary：SWE-bench Verified 73.6、Terminal-Bench 2.1 51.7、τ³ Overall 65.3、GPQA Diamond 83.8、ZebraLogic 95.8、AA-LCR 72.0；官方称在六个 agent 基准上均高于同尺寸自回归模型 Qwen3.6-35B-A3B 与 Qwen3.5-35B-A3B，以及另外两个扩散模型 LLaDA2.2 flash 与 Mercury 2.5。速度：单卡 GB300（BF16、batch 1、内部 agent 负载）680 tokens/s；H200 上 515 tokens/s，对比同尺寸 Qwen + DFlash2 的 365 tokens/s。\n\n再拆两个最容易被误读的口径。第一，SWE-bench 的 0.2 分优势不成立为定论：73.6 对 Qwen 官方公布的 73.4，只差 0.2 分，且两者生成方式不同、Qwen 一侧是厂商自己的重跑，不是同一评测跑出来的可比数字——第三方深挖的原话是“基线是厂商自己的重跑”，赢 0.2 分约等于没赢。第二，Terminal-Bench 根本不能减：Clover 报的是 2.1 版 51.7，Qwen 官方卡片给的是 2.0 版 51.5，版本不同，两数相减毫无意义。另有一条总提醒：所有数字都来自厂商自己的发布博客，博客本身没有给出足以让外人复现的评测细节；微调代码还标注着 coming soon。能今天验证的是许可证与文件，验证不了的是分数——Preview 阶段的正确姿势是把它当作“可下载、可测试的宣称”，而不是“已确立的结论”。
四、部署与边界：69GB 权重、SGLang 优先、Preview 意味着什么
部署账先算清楚：BF16 权重约 69GB，定位是单张 90GB 级显卡或量化部署，不是笔记本下载。推理路径有三条，官方态度有明确排序：首选官方 SGLang 实现（用于服务与评测）；Hugging Face Transformers 实现需要 trust_remote_code（Transformers 5.19.0、PyTorch 2.10+），且官方承认它与 SGLang 内核存在小数值差异，可能导致同一设置下输出不同——评测与生产不要混用两条路径；llama.cpp 支持走自推测解码，但后端代码尚未进仓库，排期时别按“已可用”算。\n\n许可友好是它最实在的卖点：Apache-2.0，且模型页注明保留了基底模型的 Apache 许可与版权声明——企业法务读到这里会比读到分数更放心。边界同样实在：第一，纯文本模型，别按多模态去规划；第二，Preview 标签意味着长任务、真实开发工具里的表现尚未确立，官方自己也说计划在更广泛的真实任务上继续验证；第三，没有 API——这正是本文不把它写成付费站的原因：没有可托管的端点，wrapper 无从谈起，价值在机制本身与可下载的权重。\n\n选型结论分三档。第一档，直接受益：研究扩散解码、想在本地跑大尺寸开源编码模型的人——权重可下载、许可友好、SGLang 路径明确，适合先拉下来复现官方数字。第二档，可用但要自测：把 Clover 接入 agent 编码链路的团队——先在自己的任务集上跑 SWE-bench 式抽测与长任务压测，别把 73.6 当作自己任务的预期分。第三档，暂缓：需要稳定生产输出、多模态、或托管 API 的场景——Preview + 无 API + 评测未复现，三条叠加不适合直接上生产。
五、来源清单与免责声明
来源清单（核实日期 2026-11-01）：\n1）https://huggingface.co/blog/Diffuspace/clover-35b-a3b-preview —— 官方发布博客：35B 总参、约 3B 激活、思考模式、SWE-bench 73.6、Terminal-Bench 2.1 51.7、τ³ 65.3、GPQA 83.8、ZebraLogic 95.8、AA-LCR 72.0、GB300 单卡 680 tokens/s、Apache 许可、SGLang 与 llama.cpp 支持；\n2）https://huggingface.co/Diffuspace/Clover-35B-A3B-Preview —— 官方模型页：128K 上下文（131,072 token）、40 层、256 专家 top-8 + 1 共享专家、Gated DeltaNet / 全注意力骨干、block_size=32、阈值 0.95、trust_remote_code、SGLang 推荐；\n3）https://siliconnoon.com/deep-dive-clover-35b-a-diffusion-llm-at-qwen-parity-680-toks/ —— 第三方深挖：69GB BF16 权重、SWE 0.2 分优势与方法差异、Terminal-Bench 2.1 与 2.0 不可相减、微调代码 coming soon；\n4）https://neuralbrew.ai/en/articles/2026/10/clover-35b-a3b-diffuspace-open-source-diffusion-language-model/ —— 10 月 28 日发布、H200 515 对 Qwen + DFlash2 365、六个 agent 基准对比口径；\n5）https://www.neuraldaily.news/en/a/diffuspace-clover-35b-open-diffusion-language-model —— llama.cpp 后端代码未进仓库、HF 与 SGLang 数值差异、69GB 显存需求。\n\n免责声明：本站与 DiffuSpace 无关；本文为产品技术报道与分析，不构成采购、部署或投资建议。分数与速度数字为厂商自报口径，标注 preliminary，尚未经独立复现；部署与许可信息以官方页面为准，可能变化。
Clover vs 同尺寸自回归 Qwen3.6-35B-A3B（厂商自报口径，preliminary）
| 维度 | Clover-35B-A3B-Preview | Qwen3.6-35B-A3B |
|---|---|---|
| 生成方式 | 块扩散：32 token 一块并行改写 | 自回归：逐 token 生成 |
| 总参 / 每 token 激活 | 35B / 约 3B | 35B / 约 3B（同骨干） |
| 上下文 | 128K（131,072 token，提示+生成合计） | 同量级（以官方卡片为准） |
| SWE-bench Verified | 73.6（厂商自报） | 73.4（官方公布；方法不同，0.2 分优势不成立为定论） |
| Terminal-Bench | 51.7（2.1 版） | 51.5（2.0 版；版本不同，不可直接相减） |
| 速度口径 | GB300 单卡 680 tokens/s（厂商内部负载） | H200 + DFlash2 365 tokens/s（厂商对比口径） |
| 许可与获取 | Apache-2.0，权重与代码开源，无 API | Apache-2.0 系许可，以官方卡片为准 |
生成速度对比（tokens/s；厂商自报内部负载，卡型不同，仅作量级参考）
★ Clover（GB300）680 tokens/s
Clover（H200）515 tokens/s
Qwen + DFlash2（H200）365 tokens/s
数据来源：来源：DiffuSpace 官方博客自报（GB300 单卡 BF16 batch 1 内部 agent 负载；H200 对比为厂商口径）；无独立复现，卡型不同，不要读成同卡实测
常见问题解答 (FAQ)
扩散语言模型和普通大模型有什么区别？
普通自回归模型逐 token 生成：写一个字，再喂回去写下一个。扩散模型先铺一整块带空格的草稿（Clover 默认每块 32 个 token），再经过几轮并行改写，把高置信度的位置一次性填上，阈值默认 0.95。同一块里的词可以互相参考，这是它并行加速的来源。
Clover 的 680 tokens/s 能复现吗？
目前不能。680 tokens/s 是 DiffuSpace 在单卡 GB300（BF16、batch 1、内部 agent 负载）上的自报数字，没有独立复现，博客也没有给出足以让外人复现的评测细节。把它当作可测试的宣称：权重可下载，拉下来自己跑才是验证。
本地跑 Clover 要什么配置？
BF16 权重约 69GB，定位是单张 90GB 级显卡或量化部署。官方推荐 SGLang 实现用于服务与评测；Hugging Face 实现需 trust_remote_code，且与 SGLang 存在小数值差异，不要混用两条路径做对比。llama.cpp 的自推测解码后端代码尚未进仓库。
为什么 Clover 不适合做付费站？
因为它没有 API：权重与代码开源在 Hugging Face 与 GitHub 上，任何人都能直接下载，没有可托管的端点可以包装。它的价值在扩散式整块并行改写这个机制本身，以及可验证的开源权重，而不是一个可收费的服务入口。