讨论精选
WithoutReason1729 (0↑): 你的帖子越来越受欢迎,我们已经在 Discord 上推荐了它! 快来看看吧!
我们还为你的贡献授予了特殊标识。感谢你的发帖!
我是机器人,此操作自动执行。
GoodSamaritan333 (0↑): 是的。 当我们与 Claude、ChatGPT、Gemini 等聊天时,我们实际上是在与一个复杂的流水线对话,而不是从 GGUF 文件加载的单个模型。
我们需要开放且即用的流水线,能够轻松部署在本地。
我们还需要标准,以便将框架/AI 流水线插入模型,或者反过来。
目前,我们只能得到核心模型,然后需要从互联网上四处搜集所需流水线的碎片,再拼凑起来。
有趣的是,SillyTavern 是本地完整 AI 流水线工具的一个聚合器,但它也是一团糟。
Comfortable_Ebb7015 (0↑): 有道理。它们隐藏在 API 后面,所以你永远不知道实际使用了什么。你可能向 Opus 问了一个简单问题,然后内部由 haiku 处理,却按 Opus 收费。😂