返回 文章 apply CMS 文章

llm-typesafe 0.1a0 发布：为 LLM 工具添加 TypeSafe Jev 模型支持

一个 LLM 插件，把 TypeSafe AI 的 Jev 模型接入命令行，用于结构化决策任务。

SIMON WILLISON'S
LLMTypeSafeJev插件
成长分 / 100 67 综合收获、行动、留存与影响

为什么值得读了解如何通过插件扩展 LLM 命令行工具以支持新模型。

学习 Jev 模型在是/否、选择题和评分任务中的具体调用方式。

关键洞察
  1. llm-typesafe 是专为 LLM 工具构建的插件，用于添加对 TypeSafe AI Jev 模型的支持。
  2. 安装命令为 llm install llm-typesafe，之后需设置 typesafe API 密钥。
  3. Jev 模型支持是/否的“noul”问题，输出 JSON 格式的置信度分数。
转成行动

深入阅读

正文与原文对照

原文保真覆盖：全文原文字符：1809

发布 llm-typesafe 0.1a0 —— 用于访问 Jev 及其他 TypeSafe AI 模型的 LLM 插件

我为 LLM 写了这个新插件，用来支持 TypeSafe AI 的新模型 Jev。安装方式如下：

llm install llm-typesafe

然后设置 API 密钥（在这里获取，候补名单似乎走得挺快）：

llm keys set typesafe
# Paste key

现在你就可以像这样提出是非类的“noul”问题：

llm -m jev 'Please refund my last payment.' \
  -s 'Does this message explicitly request a refund?'

输出：

{"type": "noul", "noul": 0.99}

或者像这样提出选择题：

cat message.txt | llm -m jev \
  -s 'Which team should handle this message? If billing and technical issues both occur, choose billing.' \
  -o answer_type choice \
  -o criteria '{
    "billing":"Charges, invoices, payments, or refunds",
    "technical":"Problems installing or using the product",
    "other":"Neither category fits"
  }'

或者像这样提出打分题：

cat report.txt | llm -m jev \
  -s 'How reproducible is the problem described in this report?' \
  -o answer_type score \
  -o criteria '[
    "No reproduction instructions",
    "Some instructions, but important steps are missing",
    "Complete steps with expected and actual results"
  ]'

更多细节请参阅 README。