也许你们有些人知道,但我没看到任何关于此事的帖子。苹果刚刚在 MacOS 27 上原生提供了他们的 AFM 模型。只需在终端运行 fm chat。
免责声明:我是一个开放权重的人。我更喜欢开放的模型和生态系统,但我仍然会展开讨论。
你测试过它们吗?用它们构建过东西吗?这些模型好吗?
我觉得这仍然是朝着本地 AI 方向迈出的一大步,像苹果这样的公司这样做并发布针对硬件优化的模型。
那么你怎么看?
阅读更多
讨论精选
sks147 (30↑):有消息称发布了 2 个模型,它们针对 Mac 神经引擎进行了优化。这些模型是 Gemma 模型 3B Dense 和 20B MOE 的微调版本。3B 不适合代理工作。还没测试 20B MOE。但它不会比 Qwen 模型更好。不过它们会相当快且能效高,因为它完全在神经引擎上运行,甚至可能不触及 MLX。在 M4 pro 24GB 版本上达到了每秒 85+ 个 token。这更多是关于效率以及集成到苹果生态系统中已有的应用里。并且还为开发者暴露 API,让他们可以在自己的应用中使用苹果的...
Real_Ebb_7417 (14↑):我们在其他地方有关于这个模型的更多信息吗?我很好奇。