返回 文章 apply CMS 文章

llm 0.37 版本发布:新增模型、端点配置与嵌入支持

llm 0.37 带来多项更新,包括新模型、端点配置和嵌入改进,并探讨 AI 辅助 PR 的处理方式。

llm版本发布命令行工具大语言模型
成长分 / 100 68 综合收获、行动、留存与影响

为什么值得读了解 llm 工具的最新功能和改进,提升命令行访问大语言模型的体验。

学习如何配置 OpenAI 兼容端点以使用更多模型。

关键洞察
  1. 新增 gpt-6.1-sol 和 gpt-6.1-terra 模型,并提供 llm openai endpoint add 命令简化配置。
  2. 默认模型切换为 gpt-6-luna,价格是之前默认模型 gpt-5.6-luna 的一半。
  3. 嵌入支持不同二进制内容类型,适配 Gemini Embedding 2 等多模态模型。
转成行动

深入阅读

正文与原文对照

原文保真覆盖:全文原文字符:2186

发布 llm 0.37 — 从命令行访问大型语言模型

我的 LLM CLI 工具和 Python 库的这个新版本包含大量内容,代表了大约两个月积累的功能和修复。

我添加了 gpt-6.1-sol 和 gpt-6.1-terra,以及一个新的 llm openai endpoint add 命令,以便更轻松地配置使用 OpenAI 兼容端点的其他模型。

我将默认模型(如果你没有设置自己的默认模型)切换为 gpt-6-luna——价格是之前默认模型 gpt-5.6-luna 的一半。

LLM 对嵌入的支持现在接受不同的二进制内容可能具有不同的 content-type——这对于像 Gemini Embedding 2 这样的模型是必要的,它可以嵌入文本、音频、图像和视频。

许多开源维护者抱怨 AI 辅助的 PR 泛滥。LLM 是我的项目中受此影响最大的一个,但说实话,我并不觉得这是个问题。这主要是因为我有 Opus 5.5 或 GPT-6 Astra 帮我进行分诊,以找出最有用的修复!

此版本包含来自 12 位作者的修复——几乎全部由 AI 辅助——审查它们的负担远没有我预期的那么大。我真的把它们看作附带了示例的 bug 报告——有时我会合并它们,有时我会实现自己的修复。

因此感谢 0d00ciallo0721、ac1982、Allen Flux、Bian Yuhan、Bishop Kammeraad、Chen Yufeiyang、Christopher Krah、Ethan Stoner、Jiachen Xie、Olamide Faniyan、Sharat Chandra Sai Boddu、nosmile99 帮助(或花费 token)完成了这个版本!