返回 讨论 学习 CMS 文章

Bartowski 发布 DeepSeek V3 的 GGUF 量化模型

Bartowski 发布 DeepSeek V3 的 GGUF 模型，但仅提供 156GB 原始质量版本，社区质疑其量化支持不足。

REDDIT LOCALLLAMA
DeepSeek V3GGUF量化Bartowski
成长分 / 100 53 综合收获、行动、留存与影响

为什么值得读了解 DeepSeek V3 模型的最新 GGUF 量化发布动态

洞察社区对模型量化版本的需求和反馈

关键洞察
  1. Bartowski 发布了 DeepSeek V3 的 GGUF 模型，大小为 156GB，为原始质量版本
  2. Bartowski 表示无法提供其他尺寸，因为 MXFP4 无法正确量化
  3. 社区用户 daaain 指出已成功运行 Antirez 的 q2 量化版本数周
转成行动

深入阅读

正文与原文对照

原文保真覆盖：全文原文字符：366

讨论精选

dkeiz (0↑): 156.00GB 原始质量。不错

daaain (0↑): 我的意思是，这有点敷衍：“不幸的是，无法提供其他尺寸，因为MXFP4无法正确量化。” 老兄，我已经运行Antirez的q2好几周了，它运行得很好。

DinoAmino (0↑): 就是啊。就好像那个叫bart的家伙对量化懂多少似的 /s