返回 讨论 apply CMS 文章

将 Gemma4-31B 扩展至 44B:社区自建更大模型

社区通过扩展 Gemma4-31B 至 44B,填补了 Google 未提供更大模型的空白。

Gemma4模型扩展开源社区创新
成长分 / 100 57 综合收获、行动、留存与影响

将 Gemma4-31B 扩展至 44B:社区自建更大模型
为什么值得读了解如何通过增加层数扩展开源模型规模

见证社区在模型可用性受限时的自主创新

关键洞察
  1. Gemma4-31B 被扩展至 44B,层数从 62 增至 88
  2. 扩展动机是 Google 未发布比 31B 更大的模型
  3. 扩展过程可能涉及权重复制或知识蒸馏
转成行动

深入阅读

正文与原文对照

原文保真覆盖:全文原文字符:74

我将 Gemma4-31B 扩展到了 44B(88 层)——既然 Google 不给我们比 31B 更大的模型

https://i.redd.it/qbkvzo4s3pah1.png